万店AI导购折戟，藏着落地的隐形暗坑
2026年初，国内万店零售品牌名创优品的一场内部测试炸了圈。创始人在内部会上拍了桌子：花了近千万搭的全门店AI导购，上线不到三十天，居然有三分之一的门店要求切回人工。
为什么？卡。顾客问一句“有没有适合送女生的情人节礼物”，AI要愣三秒才出回答，高峰期直接卡成PPT。一开始技术团队说要加云端带宽，算完账老板直接否了：单店每个月带宽加算力成本要三百多，一万家店就是每年四千万，这钱赚得回来吗？
后来想改成本地部署，把大模型装进门店的边缘盒子里，试了才知道，要跑原来的7B全精度模型，单盒子就得配两块推理卡，单盒子成本一万二。这相当于什么？相当于名创优品单店整整三个月的纯利润。一万家店就是十二个亿，把今年全年的利润砸进去都不够。
说实话，这不只是名创优品的问题。现在国内喊着大模型落地的行业，从餐饮导购到工业质检，从车载助手到园区安防，十个落地项目九个卡在这里：云端部署卡延迟卡成本，全尺寸模型本地部署卡算力卡预算。
你去翻今年Q1的行业招投标，十个大模型落地项目，八个中标价格比前年腰斩还多。甲方学精了，不再为“千亿参数”四个字买单，就要能用、便宜、不出错。很多创业者还在说“等GPU降价就好了”，我就笑了。GPU降个三成，该买不起还是买不起。问题根本不在GPU价格，在你选的路错了。
本土厂商的暗战，重新定义大模型生意
不过话说回来，国内厂商的反应速度真的不慢。这两年从互联网大厂到初创公司，都在卷轻量化，只是很多人没看懂，卷轻量化根本不是卷技术参数，是卷商业模式，是抢地盘。
给你举个国内的真实案例，成都的本土AI芯片公司算丰科技，去年给南方一个大型水泥厂做质检大模型。原来的方案是云端部署，把摄像头拍的水泥断面图传到云端推理，再把结果发回来，光是每天的图片传输加推理成本，单条生产线每个月就要一万二，而且网络一抖就丢结果，水泥厂机房环境差，带宽根本不稳。
后来他们换了轻量化部署的方案，把100B的大模型蒸馏量化到6B，INT4量化之后直接塞进几千块的本地推理盒子里，效果只降了不到3个点，完全满足工业要求，年成本算下来不到一万，比原来的年成本便宜整整14倍。现在这个方案已经铺了二十多条生产线，订单排到明年下半年。
你看，这里根本没有什么高大上的技术突破，就是把原来堆在云端的算力，拆碎了放到离场景最近的地方。我之前说过一个跨行业的观察，大模型轻量化其实就是生物进化里的岛屿侏儒化——大型哺乳动物来到资源有限的孤岛，几代之后就会体型缩小，保留核心捕食能力，不会傻到顶着一吨的体型在小岛上抢吃的。大模型也是一样，千亿参数是养在数据中心大草原的大象，放到终端场景这个小岛上，你不缩小，就得饿死。
现在国内的玩家分了三派：百度把文心一言拆成了不同尺寸的轻量化版本，从端侧到边缘都能放，本质是抢原来云端推理的下沉市场；寒武纪做专门针对轻量化大模型的推理芯片，卖芯片比卖云服务赚得稳；还有一群垂直行业的创业公司，干脆直接基于开源小模型做轻量化微调，跳过大厂的云服务直接卖给甲方，把价格打到原来的三分之一。
原来的大模型生意是“按调用次数收钱”，赚细水长流的服务费，现在轻量化部署变成了“一次性卖授权卖硬件，终身使用”，你说这是不是动了原来云厂商的蛋糕？当然是。所以你看那些原来做云端大模型的头部厂，对外说轻量化不影响核心效果，其实私底下跑得比谁都快，都是怕被后来者把坑提前占了。
普通人的机会，从来不在千亿参数榜上
说了这么多，这个趋势对普通从业者、对产业链中下游的玩家到底有什么实际影响？其实就是一句话：机会从大厂手里，开始往小公司和个人手里流。
我接触过一个95后个人开发者，去年在微信小程序里做了一个宠物品种识别+遗传病预判的工具。原来用云端大模型API，每一次推理要两分钱，一万次就是两百，一个月十万次访问就是两千，还经常卡，用户留不住。后来他换了开源的量化后的4B轻量化大模型，直接做端侧轻量化部署，用户打开就用，不用联网传数据，成本一年只要三百多块的服务器放模型文件，现在每个月稳定赚八万多，比他之前在互联网公司上班赚得还多。
你说，这机会放在五年前，轮得到个人吗？原来做大模型应用，你得租算力，得接API，成本高到吓人，只有大厂玩得起，现在轻量化部署把门槛拉下来了，只要你懂行业需求，摸得透用户痛点，一个人就能做一个能赚钱的应用。
反过来，原来那些在大厂只会刷参数榜，只会调prompt，不会做落地优化的算法工程师，现在找工作反而难了。我前阵子跟一个AI部门的HR聊天，他说现在招算法，开口要薪资翻倍的，都是懂轻量化裁剪、量化部署的，那些只会喊“我做过千亿大模型训练”的，开一半工资都不见得要，因为养不起，也用不上。
原来行业喊“大模型卡脖子”，都喊芯片卡脖子，现在看来，卡脖子的根本不是造不出高端GPU，是太多人只会堆参数，不会给大模型“瘦身”，不会把大模型放到该放的地方去。产业链上的机会也在变，原来做PCBA、做边缘盒子的工厂，去年订单量翻了三倍还多，原来做云计算销售的，现在都转去卖轻量化授权了，整个产业链都在顺着这个趋势转。
再过三年，你身边十个跟你打交道的AI，九个都会在你本地的设备上跑，不会传到千里之外的云端。最后留个问题：那些还在all in 千亿大模型刷榜的玩家，你们的弹药，还能烧多久？
