上周三加班到十点半。
挤在三号线的晚高峰车厢里，我把电脑夹在胳膊底下，给常用的那个AI助手发了句”帮我把这周的bug修复记录揉成给老板的周报”。
三秒。真的就三秒，一段措辞得体、连”主动优化了3处历史冗余逻辑”这种我根本没好意思写的细节都顺出来的文字，直接跳在输入框里。旁边站的实习生凑过来看，眼睛瞪得圆：”这东西是真的会想啊？”
我当时没接话。
说实话，我接触这行快七年，见过大模型从只能接个句子尾巴的小玩具，长到现在能写代码能画海报的大块头，但每次撞见这种场景，还是会忍不住想——好多人把大模型算法想成了装在服务器里的、有自我意识的数字精灵，这误会可太大了。
你以为的“思考”，本质上是在算下一个字的概率
很多人第一次接触大模型的时候，总默认它的工作逻辑是“把读过的书都存在脑子里，用户问问题的时候，翻到对应的页码找答案”。
根本不是。
它干的事说穿了特别朴素：你打出来的每一串字符，它都要逐字逐词算一遍——在它见过的所有文字组合里，哪个词接在你现在这句话后面的概率最高。
举个最常见的例子。你在对话框里打“今天天气真”，它会在几秒内完成所有计算：接“好”的概率是72%，接“差”是18%，接“热”是8%，剩下的杂七杂八的字加起来才2%。那它就把“好”先吐出来，然后再接着算，接在“今天天气真好”后面的词哪个概率最高——可能是“啊”，可能是“适合出门”，可能是“不想上班”。
哪有什么思考啊？它连自己说的是什么意思都不知道。
它甚至不知道“苹果”是能吃的水果还是拿在手里的手机。
它只知道，当句子里出现“我今天买了两斤”的时候，后面接“苹果”的概率，比接“手机”高47倍。
很多人第一次听到这个原理的时候都不信。觉得这么聪明的东西，怎么可能只会算概率？
举个更实在的例子。你让它写“一只长着透明翅膀的猫在月球上追蝴蝶”，它能给你写八百字的场景细节，写猫的爪子踩在月尘上的印子，写蝴蝶翅膀反射的地球蓝光，写风刮过猫的透明翅膀时带起的细碎声响。这些东西它从来没真的见过——世界上根本没有长透明翅膀的猫，更不可能在月球上追蝴蝶。但它见过所有写猫的文字，所有写月球的文字，所有写蝴蝶的文字，只要把这些文字块按概率拼起来，就成了一段看起来特别有画面感的内容。
我第一次搞懂这个逻辑的时候，差点把手里的冰美式泼在键盘上。原来我之前花了一下午调出来的、能生成流畅文案的模型，本质上就是个超级会接话的接梗王？
大家都在传的“参数规模”，其实不是越大就越神
前两年圈子里疯传比参数，谁家模型参数破千亿了，谁家又往服务器里堆了更多的显卡，好像谁的数大谁就赢了。
结果呢？
好多堆了几千亿参数的模型，跑起来慢得要死，问它个简单的数学题，3乘7等于多少，它能给你说23。
为啥？
因为大模型算法里的那些参数，根本不是什么“知识点库存”。你可以把它理解成一个巨大的、有几十亿个小旋钮的调音台。每个旋钮拧到什么位置，决定了它接下来说的话顺不顺、合不合逻辑。之前大家总觉得旋钮越多，能调出的声音就越准，后来才发现，好多旋钮拧到中间位置根本没用，占着地方还费电。
就像你家里的音响，真正常用的调节旋钮也就那么五六个，剩下的那些藏在说明书夹层里的参数，你买了三五年都不会碰一下，留着反而占地方。
这两年大家反而开始往回走了。把那些没用的旋钮拧掉，把真正有用的逻辑理清楚，模型跑起来快了三倍，准确率还比之前那种堆参数的大块头高。
我去年帮一个创业团队调小模型，之前他们拿个大模型跑客服问答，用户发一句“我要退款”，模型要等八秒才回，急得用户直接打投诉电话。后来我们把没用的参数剪了三分之二，回应用户的速度缩到一秒，甚至连之前模型经常答非所问的毛病都少了——因为之前那些乱拧的旋钮，本来就在干扰它判断“退款”这俩字后面该接什么。
那些你以为的“模型bug”，其实从根上就写在算法里了
很多用户吐槽大模型胡说八道，瞎编参考文献，瞎编历史事件，说这是模型“没学好”，训练数据不够干净。
根本不是。
就回到最开始的那个原理——它本来就是在算下一个字的概率啊。当你问它“1998年南京长江大桥的通车典礼上，第一个上台剪彩的人穿的是什么颜色的外套”，它根本不知道这个问题的答案是什么。但它知道，所有关于“剪彩”的文字里，后面接“穿了一身藏蓝色正装”的概率最高。它就顺着这个概率往下写，根本不会停下来想“哦不对，这个问题的答案我根本没见过，应该说我不知道”。
我上次看个博主做测试，让大模型写一篇关于“0923南京科技周的大模型论坛参会名单”，它给我列了二十多个名字，连我自己的名字都写在上面了。我当时看得后背一凉——那天我根本没去那个论坛，我那天在公司改bug改到半夜。
为啥它能编得这么像？
因为它见过太多论坛的参会名单了。知道参会名单里一般会有主办方的人，有高校的教授，有企业的技术负责人，把这些身份对应的名字按概率拼起来，就成了一份看起来特别真实的名单。它根本不知道自己在编瞎话。
好多人骂模型“不诚实”，真的冤枉它了。
它连“诚实”是什么概念都没有。
就像你让一个从来没见过猫的小孩，根据你给的所有关于猫的描述，画一只猫。他画出来的东西可能有尖耳朵，有长尾巴，有四条腿，但可能眼睛长在鼻子上面，可能爪子是鸭蹼。他不是故意骗你，他只是把所有他见过的、和“猫”相关的元素，按概率拼在了一起。
前阵子有人说，未来大模型会替代所有写文案的、写代码的、做客服的工作。我倒觉得没那么夸张。你现在用它生成的周报，最后还不是要自己改改，把那些不符合你实际情况的细节删掉？你让它写的代码，最后还不是要自己跑一遍，把那些它瞎编的API接口找出来删掉？
它从来都不是能独立干活的数字员工。
它就是个超级会接话的实习生。
你给的指令越清楚，它接的话就越贴你的需求。你要是扔个模糊的需求过去，它能顺着你的话，给你编出一整套看起来特别对、但根本落不了地的方案。
不过话说回来，也没必要把这东西想得太吓人。我现在用它帮我整理会议纪要，帮我把杂乱的调研笔记理成通顺的段落，确实省了好多机械性的功夫。但真要让它替我写专栏，那肯定不行——毕竟我知道的那些加班到十点的地铁见闻，那些踩过的模型调参的坑，那些喝冰美式泼键盘的糗事，它是算不出来概率的。
我上周在地铁上跟那个实习生说，你现在看到的这个会写周报的AI，本质上就是个把全世界的文字都背下来，然后按概率接话的大玩具。他半信半疑。
我当时没跟他争。
毕竟再过个两三年，等他自己调过一次模型，为了找个概率算错的字熬到三点，他就懂了。
作者|科技
排版|科技
审核|小北