2026-11-13 00:43:58
作者：
科技
上周三熬到两点，本来是想让常用的大语言模型帮我整理攒了半个月的咖啡探店笔记。
扯着扯着就跑题了。
我从楼下卖手冲的阿姨养的三花流浪猫，聊到高中班主任把我情书夹在物理试卷里发下来的社死现场，再聊到上次赶方案把半瓶酱油当成可乐倒在键盘上的蠢事。屏幕上的字一行行跳出来，顺着我的话头接得严丝合缝，像个坐对面陪我熬大夜的老朋友。
直到我故意给它设了个套。
你以为它在”接话”，其实它在”算概率”
别信那些说它是个超大知识库的鬼话。它根本没在”记”东西。
你现在看到的每一个字，都是它从训练阶段喂进去的几十TB文本里，算出来的”下一个字最可能是什么”。
举个最直白的例子。你说”今天出门买了一杯”，它根本不知道你买的是奶茶还是冰美式，只是根据之前见过的文本组合，把”奶茶””咖啡””豆浆”这几个选项的概率从高到低排好，挑一个最顺的接下去。
大语言模型逐词预测概率分布热力图
我那天给它设的套是：先慢悠悠打一句”我家楼下的咖啡店老板，每次做美式都会多放一勺”，停了三秒再补半句”——老干妈”。
你猜怎么着？
它前面接了三句特别顺的话，什么”风味更有层次””老客都爱这个配方”，结果我补完老干妈，它卡了整整两秒。真的，后台输出延迟从平时的0.3秒跳到2.1秒，因为它之前训练的文本里，”美式”和”老干妈”的组合概率太低了。它根本没反应过来我在耍它，只是突然碰到了概率分布里的冷门分支，得重新算半天。
我当时看着屏幕转圈圈的加载图标，差点笑到把手里的冰可乐碰洒。
它不思考。它只是算数。
你跟它掏心窝子讲上周失恋蹲在路边哭了半小时的糗事，它不会突然共情到鼻酸，只是在算”失恋””路边哭””半小时”这些关键词后面，最常跟着哪些安慰的句子，然后挑最通顺的那串发给你。它甚至不会因为你说的话太离谱而惊讶——只要这些话的文本组合在训练数据里出现过，它就能顺顺当当接下去。
那些被吹得神乎其神的”能力”，其实是你自己脑补的
好多人用了两次大语言模型，就觉得它是万能助理：能帮你写代码找bug，能帮你做职业规划，甚至能当你随叫随到的精神树洞。
说实话，我之前也这么觉得。直到上次我让它帮我算我家猫每个月的猫粮钱——我家猫8斤，每天吃60g粮，粮是30块钱一斤。它给我算出来的数是每个月要吃20斤，花600块。
我盯着那行字愣了半分钟，问它怎么算的，它说”按照平均成年猫的食量”。
哦对，它根本没有”记忆”。你每次开新对话，它就把之前跟你聊的所有东西全忘干净了。除非你每次都把之前的对话重新粘一遍，不然它就是个第一次见你的陌生人，根本记不住你跟它说过你家猫8斤，每天吃60g粮。
大语言模型上下文窗口记忆边界示意图
还有人说它会”撒谎”。
其实哪是撒谎啊，它根本不知道自己说的是假的。比如你问它某本小众诗集的作者是谁，它能给你编出来一个听起来特别像那么回事的名字，甚至连作者的生平经历都能给你编得有鼻子有眼。不是它故意骗你，是在它的概率模型里，”一个小众诗集的作者+生平介绍”的文本组合，本来就长那样。它根本没有”真/假”的判断能力，只有”顺/不顺”的判断标准。
它不会故意坑你。它只是没概念。
上次我朋友让它帮忙写一份给客户的项目方案，它抄了三年前另一个完全不相关项目的框架，连里面的客户名字都没改，最后被客户打回来的时候，我朋友在群里发了三个哭的表情，说早知道自己多检查两行。
它真正好用的地方，从来不是”像人”
它真正好用的地方，从来不是”像人”
我之前总觉得，大家追着看大语言模型的能力什么时候能追上人，是件特别没意思的事。
你想啊，它本来就不是为了”当人”做的。就像你不会拿挖掘机去跟人比搬砖速度，对吧？
它真正好用的地方，是能把那些你觉得枯燥到坐不住的事，快速给你理出个能看的初稿。比如你要写个会议纪要，把两小时的录音转成文字扔给它，它能三分钟给你整理出重点条目；比如你要读一篇几十页的外文论文，它能快速给你把核心观点摘出来，省得你翻半天找关键词；甚至你想给你家猫写个搞笑的朋友圈文案，它能给你出十个不同风格的版本，你挑一个就行。
我上周赶一个稿子，要整理近十年国内独立书店的生存观察，本来我要翻几十个网页找零散的信息，结果我把每个网页的核心段落扔给它，它半小时就给我搭了个完整的逻辑框架，我只需要往里面填我自己跑书店拍的照片、跟老板聊天的细节就行。那种爽感，就像你本来要徒手挖半米深的坑，突然有人递过来一把小铁锹。
别拿它当替身。
好多人现在骂它写的东西没灵魂，全是套话，其实是你自己用错了地方——你让一个从来没去过你常去的那家咖啡店、从来没见过你家猫、从来没经历过你那些社死瞬间的算法，给你写有灵魂的东西，本来就有点强人所难。
说起来那天我跟它扯了三小时废话，最后它给我输出了一段特别傻的总结，说”你是个对生活充满好奇心的人，愿意跟路边的流浪猫聊天，会因为高中的社死经历记到现在，也会因为打翻酱油在键盘上懊恼半天”。
我盯着那段话看了好久。
它根本不是真的懂我。只是它把我发的所有零散的句子，拼出了一个看起来很像我的轮廓。
这就够了。
我们不需要一个能跟你掏心掏肺的AI朋友，我们需要的是一个能帮你把那些杂七杂八的琐事快速理清楚、能帮你把脑子里乱糟糟的想法快速变成能看的文字、能在你想不出来下一句文案的时候给你递个台阶的工具而已——你总不能要求一把螺丝刀，帮你把家里的衣柜修好，对吧？
上周我下楼买咖啡，阿姨给我做美式的时候真的多舀了一勺老干妈，说最近新试的配方，问我要不要尝一口。我站在店门口，突然想起那天大语言模型卡了两秒才输出的乱码，忍不住笑出了声。
风刮过门口挂的风铃，叮铃当啷响。
哪有什么能通人性的魔法啊。
不过是堆算得特别准的数字，刚好凑成了我们听得懂的话而已。
免责声明：市场有风险，选择需谨慎！此文仅供参考，不作买卖依据。如有侵权请联系删除。
文章名称：对着大语言模型扯了三小时废话后，我摸透了它没说出口的"软肋"
文章链接：https://www.lfdjt.com/p/keji/a/23502.html
大讲堂