凌晨一点半,我把一段产品说明丢给模型,让它改成给客户看的语气。三秒,出来了。读着挺顺。再读一遍,某个参数被它悄悄换掉了——原文写的是续航十二小时,它写成“接近一天”。意思差不多。但那是两码事。
我盯着屏幕看了很久。不是生气,是好奇。它明明“读”过我的原文,为什么敢改?
它做的其实只有一件事,而且这件事无聊得要命
把大语言模型想象成一台特别执拗的接词机器。给它一段话,它去算下一个词会是什么。“今天天气真”——后面大概率跟“好”。就这么简单。
简单到什么程度?它内部没有一句“我理解了”。没有知识图谱,没有逻辑引擎,也没有一个叫“常识”的抽屉。只有一大堆数字在流动,收敛成一个概率分布:有些词概率高些,有些低些。它挑了一个。

然后再来一遍。把挑出来的词接上去,接着算。一个字一个字地往外挤。你看到的那段流畅回答,是几千次这样的猜测叠出来的。
听着不太可能对吧。就这么个东西,怎么会写代码、会讲笑话、会翻译?
从“猜词”到“像在思考”,中间隔着一层没人能完全说清的东西

关键在训练。模型先读海量文本,做一件近乎自虐的事:把一句话的尾巴捂住,猜。猜错了调参数,猜对了也调。几万亿次之后,参数里沉下来一些东西。
那不像知识,更像压缩。语言里藏着世界的形状——“杯子掉地上”后面通常接“碎了”,不会接“变成了大象”。要把这些规律压得足够紧,模型就不得不隐式地把物理常识、语法、人类说话的客气程度,一起揉进那堆数字里。
所以它能“像在思考”。注意这个词。像。
2020年那篇讲GPT-3的论文里有个说法挺有意思:规模上去之后,一些没专门教过的能力自己冒了出来,比如做算术、照着几个例子学新任务。研究者管这叫涌现。后来也有人提出质疑,觉得那可能是评测指标造成的错觉,不是突然开窍。争论到今天也没停。
我自己的感受是:它更像一个读了几千万本书、但从没出过门的人。谈什么都接得上。你问它下雨天该不该穿白鞋,它能给你讲一套逻辑。它没踩过水坑。像南京梅雨天晾在阳台上的衣服,摸着总差一口气。
三个误会,我踩过其中两个
误会一:它会记着你。
不会。至少在默认状态下不会。窗口一关,那次交流对它就消失了——不是忘了,是压根没存。上下文里那点东西,就是它这一次能看见的全部。所以你反复交代背景,不是它笨,是它真的只看得见这么多。有些产品做了记忆功能,那是外面套了层本子,和模型的脑子没关系。
误会二:语气越自信,答案越对。
反了。语气和正确性之间几乎不挂钩。它生成“巴黎是法国首都”和生成“某本书的作者是某某”,走的是同一套流程,一样的平滑,一样的笃定。这就是幻觉的来路——它不在检索,它在续写。续写追求的是通顺,不是真实。
误会三:它在“想”。
这个更微妙。现在有些模型会先吐一段推理过程,再给答案,看着像草稿纸。确实有用。把步骤摆出来,后面生成的词就有了约束,准确率会往上走。但那不是内心活动。那是一段被生成出来的、恰好有助于生成正确答案的文字。

……说到这儿有点扫兴。不过搞清楚了,用起来才踏实。
那它到底在哪儿省事

我的经验特别土:凡是“改写、概括、换个语气、把散乱的东西理成结构”,它都好用。这类活有个共同点——答案不唯一,你扫一眼就知道好坏。
凡是“必须精确、必须可追溯、错了要有人负责”的,它得有人盯着。查法条、算账、给人看病,模型可以当草稿,别让它签字。
有个判断标准我一直在用:这件事的答案,我能不能在三秒内验证。能,交给它,你赚了。不能,那它交给你的其实是“一个看起来很像是答案的东西”。
两个我被问烦了的问题
问:它是不是把网上的话拼起来?
不是。拼贴这个说法好懂,但不对。训练完之后的参数里,已经找不到原句了。你让它背《静夜思》,它能背,可那是它从大量重复里学到的模式,不是从某个网页复制粘贴。当然,某段文字要是在训练数据里出现过几千遍,它输出得就会格外接近原文。那更像“见得太多了”,不是“存了副本”。
问:它到底懂不懂?
得看你说的是哪种懂。要说像人那样有体验、有意图,我看没有。要说它能在语言这场游戏里做出恰当的回应——那它很在行。这两个“懂”之间隔着什么,说实话,哲学系吵了几十年也没吵出结论。
往后几年,有几句流行的话我觉得说反了

一句是,模型会越做越大,直到无所不能。可这两年真正有意思的动静,未必都在“更大”上。有的小模型在特定任务上表现不差,能跑在手机上;有的把推理开销压得很低。规模依然是硬通货,只是不再是唯一的路线。
另一句被高估的,是“替代”。模型先吃掉的,往往是那些本来就没人爱干的活——把三十页会议记录压成一页,把格式乱七八糟的表格对齐。它不太会整块端走一份工作,更像把工作切成两半,一半突然变轻了。
还有件事我更在意:我们正在把越来越多的判断,交给一个说不出理由的系统。它给你答案,你说不清它为什么对,也说不清它为什么错。这种交换用起来舒服。代价是慢性的。
所以我的办法是——用,但留一个习惯:看不懂的地方,不放过。哪怕它答得漂亮。
凌晨两点,我把那段续航改回十二小时。屏幕光照在脸上,有点凉。
作者|科技
排版|科技
审核|小准
大讲堂