大讲堂
他当时直接炸了。因为三个月前平台的销售跟他签企业版合同的时候，拍着胸脯说“我们全栈采用顶级HBM3e存储，所有用户数据全量驻留内存，访问零延迟，比同行快30%”。
谁信谁傻。
底下的评论区没几分钟就盖了几千楼，有之前在那家平台做运维的员工跳出来爆：他们2026年Q1的推理调用量涨了470%，要是真全量把用户数据往HBM里塞，光存储成本就要吃掉全年营收的62%，老板就算把房子卖了也扛不住。所谓的全HBM全闪，纯纯的销售给融资做的包装，实际上从2025年年底就开始偷偷做数据迁移，把超过30天没被访问的内容，一股脑往最便宜的对象存储归档层丢，连个用户通知都懒得发。
我翻完整个帖子的所有评论，发现最有意思的不是用户的怒气值拉满，是一堆之前卖大模型算力的销售，偷偷换了个匿名号在评论区科普“冷存储是云服务的通用方案，是技术成熟的表现”，生怕自己之前吹的牛皮被老客户找上门来扯皮。
很多人觉得这事是平台偷工减料，是不厚道。其实根本不是。
卷到骨子里的成本账，根本不是技术洁癖的事
存储分层这玩意，说穿了根本不是什么新发明。传统存储圈搞了快三十年了——热数据放最快的SSD，温数据放机械盘，冷数据放磁带，老掉牙的逻辑，之前被大模型圈的技术团队嘲笑了快五年，说这是“传统IT的老古董思路”，是“对极致性能的妥协”。
结果2026年的现实，直接把这些技术洁癖的脸打肿了。
现在采购1TB容量的HBM3e，要花大概11.8万人民币，而同样1TB的企业级QLC SSD，采购价是1150块，差了整整102倍。单块32GB HBM3e的当前采购价是1800美元，相当于同容量企业级QLC SSD采购价的47倍，但靠成熟的分层调度方案，后者能支撑的推理并发量，能追到前者的82%。
某头部云厂商2025年的全年存储账单是127亿人民币，如果全量采用最高性能的HBM存储方案，同等规模的业务存储成本会冲到420亿，相当于整个杭州市2025年全年的居民生活用电总支出。
这笔账谁算都明白。
国内的玩家早就偷偷动起来了。2025年年底，阿里云就把盘古大模型的存储架构，从之前吹的“全HBM驻留”改成了三层分层调度：最靠近算力卡的一层划了20%的容量给HBM，只放最近1小时内被反复调用的热上下文；中间层划了30%的容量给NVMe SSD，存最近7天的温数据；剩下50%的容量，直接丢到OSS的归档层，存超过30天没被访问的冷数据。改完之后他们内部算过，每百万token的推理存储成本，从1.2美分直接降到了0.18美分，砍了85%。
这逻辑跟野战军打仗的后勤体系一模一样——一线战壕里士兵手里攥着当天要打出去的子弹、喝的淡水、随时要调用的作战地图，这部分对应离算力芯片最近的HBM层，纳秒级响应，贵到离谱；二线阵地的掩体后面堆着三天份的备用弹药、备用口粮、常用的医疗物资，对应NVMe SSD层，微秒级响应，价格是HBM的几十分之一；几百公里外的后方兵站堆着重型火炮、备用装备、半个月的战备物资，对应企业级QLC和对象存储层，秒级响应，价格又比NVMe低一个数量级；再远的山区战略仓库里锁着一年以上的备用零件、长期战备物资，对应磁带库的归档层，分钟级响应，成本几乎可以忽略。从来没有哪支军队会把所有弹药都堆在一线战壕里——那是等着被敌方一发重炮端了老窝，纯纯的浪费；但也没有哪支军队会把所有弹药都放在千里之外的仓库里——那前线打起来根本补不上，纯纯的找死。
存储分层本质上就是这个平衡术，根本不是什么高大上的技术突破，就是最朴素的成本和效率的权衡。之前大家不愿意承认，是因为融资的时候要吹技术故事，要告诉投资人“我们用的是最顶级的硬件，我们的技术比别人先进”，真到了钱烧得差不多，要自己赚营收养团队的时候，谁也不会跟钱过不去。
被卷了十年的存储行业，终于等来了真需求
说实话，之前国内的存储行业真的卷不动了。
过去十年，大家拼的是什么？拼SSD的顺序读写速度，拼随机读写的IOPS，拼谁的延迟能压到更低，拼到最后，消费级的SSD价格跌得跟白菜一样，企业级的全闪阵列，毛利率从之前的40%多掉到了15%不到。很多中小存储厂商熬不住，要么转行做消费级产品，要么干脆被大厂收购。大家普遍觉得，国内存储行业的天花板就在那了，反正高端的HBM、企业级SSD的核心技术，之前都是被海外厂商卡着，卷到死也就那样。
结果存储分层的需求一出来，整个产业链的逻辑直接变了。
谁都明白，最顶端的HBM层，根本不是国内厂商的主场——三星、海力士、美光三家占了95%以上的市场份额，国内厂商挤破头也很难在短期追上。但是中间的温数据层、冷数据层，本来就是国内厂商深耕了十几年的地盘。
比如江波龙2026年Q2的财报里，给国内大模型厂商供应的QLC企业级SSD的营收，占了整个企业级业务线的42%，毛利率比之前卖给服务器厂商的同容量产品高了17个百分点。之前大家觉得QLC是“掉速王”、“寿命短”，是低端产品，现在突然发现，放冷数据的时候，QLC的大容量、低成本的优势，比昂贵的TLC盘合适太多了。
对普通从业者来说，这种变化更实在。
我之前认识一个做传统存储的工程师，在某二线存储厂商干了六年，天天做的事就是冷数据自动迁移、分层调度的策略开发，之前他跟我吐槽，说自己做的东西都是边缘功能，没人重视，去年甚至差点被裁员。结果2026年开年，三家大模型公司挖他，开出的年薪是之前的2.3倍，就因为他有五年多的分层调度经验——之前大模型公司的技术团队都是做算法的，根本没碰过传统存储的这套分层逻辑，现在要帮公司一年省几个亿的存储成本，这些之前被觉得是“老古董”的经验，突然成了抢手的硬通货。
我其实挺烦之前那种非黑即白的技术洁癖的。好像谁不用最顶级的硬件，谁就是技术不行，谁就是偷工减料。实际上，真正能把行业往前推的技术，从来都不是追求极致性能的奢侈品，是能让最多人用得起的实用方案。要是所有的大模型都真的全量用HBM存数据，那最后推理的成本肯定要转嫁给用户，之前100块钱一个月的会员，可能要涨到1000块，最后普通学生、小商家根本用不起。
之前碰到过一个大模型公司的技术负责人，2025年中跟我吃饭的时候，拍着桌子说“我们坚决不上分层，我们要做极致的用户体验，要跟那些偷工减料的同行拉开差距”。结果过了三个月，他偷偷发消息问我，有没有做分层调度的靠谱团队介绍，说公司账上的钱撑不过八个月了，必须把存储成本砍下来。
谁也别笑话谁。商业世界的账，从来都是算出来的，不是吹出来的。
等2027年大模型的推理成本再降90%的时候，你猜现在那些吹着“全HBM自研”、“零妥协极致体验”的团队，还有几个能站着说话？
作者|大讲堂
排版|大讲堂
审核|安然