它不是在“思考”,是在玩超级接龙
说实话,我第一次用的时候也被唬住了。感觉它像个博学的家伙。但真相有点扫兴。生成式AI,尤其是大语言模型,本质上是个概率机器。它读了几万亿字的文本,学会了词和词之间的统计关系。你给它一个开头,它就预测下一个最可能出现的词。然后把这个词塞回去,再预测下一个。一个接一个。像玩接龙。但它的词汇量是你的几亿倍。速度也快得离谱。你输入“今天天气”,它可能接“不错”。也可能接“真好”。取决于它训练时见过多少类似的搭配。它没有“想法”。它只有“概率”。就这么简单。又这么复杂。它内部有几十亿甚至上千亿个参数。每一个参数都是一个微小的旋钮。训练就是调整这些旋钮。让它的预测越来越准。但“准”指的是像人写的。不是指真实。所以它可能写出“太阳从西边升起”这样的句子。如果这种搭配在它读过的文本里出现过。虽然很少。但总有可能。
为什么它有时候像天才,有时候像傻子?
因为它生成的文本是“合理”的,但不一定是“真实”的。这叫幻觉。它没有事实核查机制。它不知道“张三”和“李四”的区别。它只是根据概率选词。你问它“南京有哪些好吃的”,它可能列出“南京烤鸭”。但你问“南京烤鸭的历史”,它可能编出一个不存在的朝代。比如“明朝永乐年间,朱元璋下令…”——等等,朱元璋是明朝的,但永乐是朱棣。它把两个混在一起了。你发现了,它却一脸无辜。它没有“脸”。它只是继续生成。更麻烦的是,它还会“自信地胡说”。语气坚定。排版工整。你一不小心就信了。我就被坑过。它给我列了一份参考文献。看起来有作者、有期刊、有年份。我一查,全是假的。它把真实的作者和虚构的标题拼在一起。就像用乐高积木搭了一个不存在的城堡。
跟它聊天,你得学会“拆盲盒”

它会不会取代你?先别慌

作者|科技
排版|科技
审核|小准
大讲堂