LLM祛魅：当大模型从PPT走进工厂车间

上个月去南京软件大道蹲了一周，跟三个做To B的LLM创业团队聊到凌晨两点。最直观的感受是：外面炒得越凶的概念，落地端的人骂得越狠。

被神化的技术内核：本质是个超大号的“接话茬机器”

很多人现在把LLM吹成了有自主思考能力的超级智能，说白了，都是没摸过底层逻辑的外行。LLM从来没有真正的“理解”能力，所有输出本质上都是基于训练语料的概率预测——说白了就是个超大号的接话茬机器，你给它半句话，它根据之前看过的几万亿字的文本，猜接下来最顺、最像人话的几个字是什么。

别信什么“LLM有自主意识”的鬼话。我见过某团队演示的时候，让GPT-4算123*456，它给的答案是56088，差了整整一千多——你说它懂数学？它只是见过足够多的乘法句子，知道数字凑到哪几个字最像对的。

瓶颈真的卡得死。

现在所有厂商吹的长上下文能力，本质上都是靠把文本切得足够碎、再靠注意力权重硬凑出来的检索准确率，真到了需要跨章节关联逻辑的场景——比如找藏在300页招股书里的、和三年前某笔关联交易对不上的出资漏洞——大模型的表现甚至不如一个做了十年尽调的老员工搭的正则表达式脚本。

产业链的冷热分层：卖铲子的赚翻了，挖金子的在熬

这两年看下来，LLM产业链的冷热分层比互联网创业潮的时候还明显。当前产业链的利润高度集中在算力供给、垂直场景落地两个环节，通用基座模型的投入产出比已经低到离谱。

谁在赚钱？首先是卖算力的。南京本地的几个智算中心，去年的GPU算力出租价格涨了30%还抢不到，不管你是做通用大模型的，还是做垂直应用的，要跑模型就得租算力，这钱你不花也得花。然后是扎在垂直场景里的小团队——比如给律所做合同关键条款提取的，给制造企业做工艺文档问答的，给电商做客服话术生成的，这些团队根本不吹“通用大模型”的牛，就扎在一个场景里磨规则、磨数据，去年的客户复购率能到60%以上，赚的都是实打实的钱。

反过来，那些上来就喊“做中国版GPT”的通用大模型团队，现在大多在裁员。说句不好听的：现在还在砸几十亿做通用基座模型的，要么是真的有长期资源兜底，要么就是还没从融资的梦里醒过来。你算笔账，现在训练一个能追上GPT-4水平的通用模型，光算力成本就得几个亿，还要攒上百人的算法团队，最后做出来的东西，真要落地到企业场景，还得花几倍的钱做微调、做合规、做场景适配，投入产出比算下来，还不如把钱投到垂直场景里做应用。

我上个月在软件大道的一家创业公司，看到他们的工程师把大模型的输出结果接了一个规则校验层，所有涉及数字、金额、客户名称的内容，都要和后台的数据库做一遍匹配，匹配不上的就直接打回去重生成——就这么个简单的操作，把幻觉率从15%直接压到了1%以下，客户的满意度一下子就上来了。

真的卷。

现在大家对LLM的预期已经被资本炒得变了形，以为它能一下子替代所有白领的工作，实际上现在落地最多的场景，全是容错率极高的：客服的知识库问答，文档的摘要提取，代码的基础补全。那些上来就想搞“智能生产优化”“智能财务决策”的团队，基本都踩过坑——之前有个做制造企业的项目，一开始想靠LLM优化注塑机的工艺参数，结果上线三个月，因为大模型给的参数错了两回，差点烧了一整条生产线，后来赶紧把场景缩回到“工艺文档的关键词检索”，准确率虽然只有92%，但没出过事，客户也愿意付钱。

被低估的治理成本：幻觉不是技术问题，是合规问题

很多人现在把LLM的幻觉当成可以靠技术迭代解决的bug，实际上在To B场景里，幻觉就是实打实的合规风险。幻觉问题从来不是技术bug，而是悬在所有LLM落地场景头上的合规利剑。

你想啊，要是你用LLM给客户做理财建议，它瞎编了一个产品的收益率，最后客户亏了钱，这个责任谁担？是模型厂商？是集成商？还是用这个系统的银行？现在国内根本没有明确的责任划分标准。

还有数据安全的问题。很多企业图方便，把内部的文档喂给公有云的大模型，结果文档里的客户信息、核心工艺参数，转头就被模型拿去训练了。之前有个南京的智能制造企业，就是因为把供应链的报价单喂给了某公有大模型，结果半年后发现竞争对手拿到了几乎一模一样的报价表，溯源下来就是模型的训练数据泄露的。

坑都是踩出来的。

不过话说回来，这些问题也不是不能解决，只是需要时间——企业现在不敢用LLM，不是因为技术不够好，是因为没有人给他们兜底，没有明确的规则告诉他们，出了问题谁负责，数据泄露了谁赔。

我对未来3-5年的LLM市场有三个很明确的判断。未来3-5年的LLM市场，不会出现一个通吃所有场景的超级模型，只会分化成无数个深耕细分行业的专属小模型。第一，通用大模型的能力还会持续提升，但大家吹了好几年的AGI，3年内根本不会出现，所有的技术迭代都会围绕“降低幻觉率、提升长文本检索准确率”这两个最落地的需求来，不会去搞什么花里胡哨的“自主意识”。第二，产业链的格局会彻底洗牌，头部2-3个通用基座模型会吃掉所有面向个人用户的通用场景，剩下的玩家根本没必要去跟他们拼参数，就扎在自己熟悉的行业里，用7B、13B的小参数模型，喂上行业专属的高质量数据，效果会比千亿参数的通用模型好得多，成本还只有后者的十分之一。第三，治理标准会在未来2年里逐步完善，明确LLM输出的责任划分，明确训练数据的版权边界，到那个时候，那些靠夸大宣传、靠擦边球拉客户的团队，会直接被市场淘汰。

别迷信。技术从来都不是神话，它只是解决问题的工具而已。