大讲堂

抢着上Transformer的中小玩家，正在集体交智商税 春节后跟一个做腰部电商的老朋友老卢喝酒，他拍着大腿骂街，一口闷了半杯白酒说，去年为了赶AI转型的KPI，把上线五年运行稳定的协同过滤召回模型全下了，全换纯Transformer架构。...

老周换完工服往机房走的时候，门禁系统跳出来的时间是22:17。郊区的风裹着稻田的味道往衣领里钻，这是杭州郊区智算中心少有的舒服时刻。 凌晨三点的显卡风扇声 机房里的温度永远恒定在22度，冷得像刚从冰箱拿出来的可乐。老周隔着厚重的隔音门都能听...

去年帮朋友算过一笔账，一个千亿参数的大模型，全精度存下来需要快4TB的空间。你找遍现在消费级甚至企业级的单卡，最大也就80GB显存。塞不下，怎么办？ 最早的分布式训练玩的是数据并行，模型小的时候没问题，每个卡存完整模型，各跑一部分数据，最后...

2026万卡招标的三倍价差 今年开春，国内十家主流大模型厂商联合发起万卡训练集群的公开招标，标书刚挂出来，业内就炸了。同规格的需求，端到端跑通一个70B参数模型，头部集成商报出1.2亿的总价，而深圳一家刚做了两年分布式的创业公司，报价只有3...