凌晨两点,我盯着一封道歉信发呆。
收信人是我朋友。我把他新买的镜头磕了个印子。没坏,功能一切正常,但得说清楚。我懒得想措辞,就把这事儿丢给了一个生成式AI。
第一版回来的东西,工整,礼貌,滴水不漏。读完我起了一身鸡皮疙瘩。
它写:“对于此次意外,我深感抱歉。”
我这辈子没跟谁说过“深感抱歉”。
那一刻我大概明白了一件事——这东西的中文说得比我规范,但它不是人。它像个穿着西装背菜谱的选手。词都对,气不对。
它不是在“想”,它是在赌下一个词
把模型拆开看,它干的事非常朴素。
给它一串文字,它算下一块该填什么。就这一步。填完,把新词接到后面,再算下一次。如此循环。
“今天天气真”——它内部会浮出一张概率表。好,一档;不错,一档;冷,一档……挑一个,接上,继续往下走。
所以它输出的本质不是“意思”,是“像不像”。
这个区别要命。

有人会问,那它怎么知道什么叫“像”?
训练的时候,它读了海量文本,一次次猜词,猜错就调参数。看得越多,对“什么词后面容易跟什么词”的手感就越准。就这么练出来的。它没有理解,只有统计意义上的熟练。
打个比方。一个从没下过厨房的人,把一千本菜谱背得滚瓜烂熟。你问他糖醋排骨下一步该干什么,他能答得头头是道。可灶台一开火,他连油温都判断不了。
模型就是那个背菜谱的人。它答得对,是因为它见过太多类似的段落。它答得错,也恰恰是因为——它只见过类似的段落。
一本正经地胡说,是怎么发生的

我试过让它解释一个特别冷门的行业术语。它给的答案条理清晰,还配了出处。年份、机构、页码,一应俱全。
全是编的。
那种编法特别唬人。因为它不是在“撒谎”,撒谎的前提是知道真相。它只是在生成“看起来像引用”的文字。格式的壳子它学得极好,壳子里装什么,它不负责。
学界管这个叫幻觉,hallucination。名字听着玄,机制其实枯燥得很:模型被训练成永远给出流畅的下一句,而不是正确的下一句。流畅和正确,很多时候正好撞车。
所以我现在有个笨办法。凡是它给的具体数字、人名、文献引用,我一个都不用。不是不信它,是它的强项压根不在这儿。
你让它帮你搭个框架、换个角度、把话说明白,它很好用。你让它当资料库,它就是个自信的骗子。
那几句传得挺广的话
“它记住我了。”
没有。对话里它显得“记得”,是因为你每发一条消息,前面的聊天记录都会被重新塞进它的输入里。窗口一满,早年的内容就掉出去了。它不是记性好,是每次都把稿子重读一遍。

“它在偷偷学我的数据。”
这个得分情况。面向普通用户的产品里,对话记录能不能拿去训练,一般是有开关的,位置通常在设置里,藏得不深但也不显眼。各家默认值不一样,值得自己翻一眼。企业版的条款一般写得更明确。
“模型越大越聪明。”
不一定。参数规模只是其中一项。训练数据的质量和清洗方式、后训练阶段怎么调,都能大幅改变最终结果。我见过小模型在某个窄领域里把大模型按着打的场面。虽然不常发生。
……
我实际是怎么用它的
说几件具体的。
写代码。它最擅长的其实是“翻译”——把一段模糊的自然语言需求,翻成结构化的东西。所以我会先自己把需求写清楚,再交出去。需求本身含糊,它给的代码就只能是一坨能跑但没法维护的玩意儿。
写文案。直接让它从零写,出来的是塑料花。我的做法是:先自己写一版烂的,哪怕只有三句。然后告诉它,照这个语气往下续,别改我的调子。
差别大得离谱。
关键是给它一根“锚”。没有锚,它只能往平均值上靠。平均值,就是那层保鲜膜。
还有个技巧,我用了很久才养成习惯:让它先别急着答。
比如问“这个方案有什么问题”。直接问,它会给一堆不痛不痒的通用风险,什么资源不足、什么沟通成本。换成“先列三个你判断它会失败的理由,再列三个它可能成的理由”,回答立刻具体起来。
有点像什么呢。像你问一个刚入职的年轻人“你觉得怎么样”,他只会说“挺好的”。你追问一句“如果非要说一个坑呢”,他才开始动脑子。
被聊得最少的那半边:账

大家聊生成式AI,喜欢聊能力。我更多在想成本。
每一次调用背后,都是电,是卡,是水。训练一个大模型烧掉的资源,具体数字各家估算差得很远,我不引用,只说自己的感受:这东西不是凭空变出来的,它有物理重量。
所以有些场景我不用它。写一封两百字的邮件,我自己写更快。查一个我确定知道答案的问题,也没必要绕一圈问它。
用它,是因为它能把某几类活儿的时间压掉一大块。不用它,是因为有些活儿本来就不该被压缩。
一个到现在没想明白的问题

我偶尔会琢磨一件事。
它吐出的一切,都来自我们喂给它的东西。写信、写诗、写代码、解释概念——它做的是重组。那它有没有可能,说出某些我们没说过、但方向对的话?
有时候我觉得有。它把两个隔得很远的领域撞在一起,冒出一句我从没想过的比喻。虽然紧接着下一句又滑回平庸。
有时候我又觉得,那只是错觉。它不过是把概率表上两个相邻的高点连了一下,恰好看着新鲜。
这个问题我到现在没答案。可能也不需要现在就有答案。
倒是那封道歉信,我最后自己重写了。三行。
“镜头磕了个印子。我赔。晚上请你吃饭。”
发出去,朋友回了个笑哭的表情,说行了。
后来我把这三行贴回去给它看。它认真回复:内容略显随意,建议补充正式的致歉说明。
我盯着屏幕笑了一下。它是真的不懂。
但话说回来,那天晚上要没有它那版塑料花摆在眼前,我大概也写不出这三行。
作者|科技
排版|科技
审核|阿辰
大讲堂