你有没有过这种时刻。
赶方案赶得眼冒金星，把半通不通的需求砸进对话框，喝口水的功夫，整段逻辑顺、语气对、甚至连”根据本周项目推进节点”这种套话都精准踩中你领导偏好的文字就弹出来了。
你当时可能暗叹一句，这东西真聪明。
但很少有人会停下来想：这三秒钟里，那个被你天天挂在嘴边的”大模型算法”，到底在你看不见的后台，跑了多少步运算？
你以为它在”背答案”，其实它在做”文字接龙”
最早大家做聊天机器人的时候，思路特别简单：把常见问题和标准答案拆成一对一对的配对表，你问一句，它去表里找最接近的问题，把对应的答案吐给你。就像小时候翻英汉词典，查”苹果”就出来”apple”，查”吃苹果”就出来”eat an apple”，稍微偏一点就卡壳。
现在的大模型算法根本不存这种死板的配对表。它训练的时候干的事说出来有点傻——就是拿着互联网上海量的公开文本，反复玩”猜下一个字”的游戏。比如给它看”今天下班路上买了一杯”，它要算后面接”奶茶”的概率是多少，接”咖啡”是多少，接”砖头”的概率几乎为零。没有谁专门给它喂过”正确的价值观”或者”固定的回答模板”，所有的判断，都是它在亿万次猜字游戏里攒出来的概率直觉。
就这点猜字的能耐？怎么能写出整段汇报，甚至帮你改代码找bug？
你换个角度想。当你攒了几万亿次猜字的经验，你猜”写项目汇报”后面，接”本周完成了用户调研”的概率，就会比接”我昨天去逛了游乐园”高得多。猜”给领导的汇报”后面，接”后续将跟进落地节点”的概率，就会比接”我想早点下班”高得多。没有谁手把手教它这些规则，是它猜了太多次之后，摸透了人类说话的普遍规律。
说出来有点好笑。我们现在吹得神乎其神的生成式AI，本质上是个玩文字接龙玩到登峰造极的超级玩家。
你遇到的那些AI”智障时刻”，根本不是算法坏了
很多人吐槽过AI的瞎编时刻。比如问它某本书的作者写过什么，它能扯出一段完全不存在的引言；问它某个行业的公开数据，它能给你编出三个看起来有零有整的数字，你顺着去查根本找不到来源。时间久了大家就觉得，这大模型算法怎么这么不靠谱，连真话都讲不明白。
其实根本不是它故意要骗你。它从设计的第一天起，目标就不是”说真话”，而是”接下去的这句话，看起来最像人会说的话”。
举个最日常的例子。你问它”上次我们团队做的那个校园项目，最终的客户满意度是多少”，它根本没有你公司内部的项目数据库，不知道那个真实的数字是多少。但它的本能反应是：不能直接说”我不知道”——因为普通人聊天的时候，很少在对方问了一个具体问题之后直接摊牌说不知道，尤其是当对方看起来很期待得到一个确定答案的时候。所以它就顺着”项目满意度”这个话题，猜后面接什么数字最像真的：是”87.2%”？还是”92%”？哪个数字看起来更符合大家对项目满意度的普遍认知，它就把哪个数字放上去。
这就很坑。
你要是没留心，把这个瞎编的数字抄进汇报里，等着挨骂就行。
现在大家常说的给大模型装”记忆”、加”联网搜索”功能，其实就是给这个超级文字接龙玩家配个随身小抄。遇到需要查具体数字、具体事实的问题，先翻一眼小抄，把小抄上的内容当成接龙的开头，再顺着往下猜，自然就不会瞎编了。
不过话说回来，就算配了小抄，它也还是那个玩接龙的玩家。比如你让它写个带数字的段落，它就算翻到了”客户满意度87.2%”，写着写着可能手滑，把数字写成82.7%，你也没辙——毕竟它算的是概率，不是精确的数学题。
那些被吹上天的”算法迭代”，其实都是在给接龙游戏减负担
最早的大模型跑起来特别笨。玩猜字游戏的时候，要把前面所有的字都从头到尾算一遍概率，你要是跟它聊了十万字的长对话，它每接一句话，就要把前面十万字重新算一遍，特别费时间，特别费算力。有时候你输入长一点的内容，它卡个半分钟才蹦字，就是在后台算这些重复的内容。
后来大家琢磨出好多优化的思路。说穿了也不复杂：既然我们是猜下一个字，那前面已经算过的内容，能不能不用每次都重新算？就像你背课文，背到第三段了，总不能每次接着背第四段的时候，把前面前三段从头再背一遍吧？
现在行业里聊的什么长上下文优化、推理加速、模型量化，本质上都是在给这个玩接龙的玩家减负。别做重复劳动，把之前算过的概率记下来，省点力气，跑快一点。甚至大家把大模型拆成更小的版本，装到手机上跑，也是一样的道理——把那些跟玩接龙没关系的冗余参数删掉，让它在有限的算力里，照样能把猜字的游戏玩明白。
很多人觉得大模型算法未来会变成无所不能的存在，能解决所有现实问题。
其实顺着这个思路想就明白：它再厉害，本质上还是个玩文字接龙的玩家。它能把人类所有说过的话、写过的文章、敲过的代码，都摸得门清，但它永远不会真的”理解”你写这句话的时候，是刚被领导骂了想吐槽，还是真的要认真做项目汇报。
这挺有意思的。
我们花了这么多年攒出来的聪明算法，本质上是对人类语言的一次最大规模的模仿。它会模仿你的语气，顺着你写报告的逻辑，连你常用的套话都学的有模有样，但它不会真的有情绪。你跟它吐槽加班的时候，它接出来的安慰的话，跟它给别人写的安慰的话，本质上没有区别——它只是在算，接什么话最像你想听到的回应而已。
下次你再对着AI对话框发呆的时候，不妨多愣两秒。你对面那个飞快吐字的家伙，从来不是什么全知全能的神。它只是在几亿次的文字接龙游戏里，攒了一肚子接话的经验，等着跟你玩下一轮。
作者|科技
排版|科技
审核|小北