人工智能说“我理解你”的时候,它其实在做一道数学题

凌晨一点五十七分。

我盯着屏幕上那行字,心里有点发毛。

它说:“你想说的其实是那句一直没说出口的对不起,对吧?”

我问的只是一个特别普通的问题——怎么跟一个多年没联系的朋友开口。它却像掀开了什么。

我知道它是个模型。我知道它从没见过我,也没听过我的声音,更不知道我这位朋友长什么样。可那一秒,我差点信了。

这个瞬间让我想写点东西。不是夸它多神,那种话你听腻了。我想聊的是它到底在干嘛,以及我们为什么总在那个奇怪的位置上,被它晃一下。

它不是在“想”,是在“接龙”

先把最反直觉的一层摊开。

今天被喊得最响的那类人工智能——大语言模型——底层做的事,说穿了朴素得有点扫兴:根据前面出现的词,猜下一个最可能出现的词。

就这。

你给它“今天天气真”,它算一遍概率,觉得接“好”后面配“啊”挺顺,“不错”也行,“糟糕”不太对味。挑一个吐出来。然后把这个新词接到句尾,再猜下一个。

一个词、一个词往下滚。句子就这么长出来了。

我第一次真正看懂这件事的时候,是有点幻灭的。这不就是个高级输入法联想吗?我手机也能猜哇。

但这里有个不一样的东西。规模。

不是简单的“多”。

你想象一下——一个模型在训练里读过了互联网上相当大一块公开文字。它见过的句子多到你没法想象。在这堆句子里,“因为……所以”“如果……那么”这类结构反复出现;愤怒的语境里配的是某一套词,温柔的语境里又是另一套。它把这些统统压进一堆数字,几百亿、上千亿个。

然后你敲一句话进去。它在这个巨大的数字空间里走一遍,把所有模式揉在一起,输出最可能的下一站。

大语言模型逐词预测下一个token的概率流程示意图
大语言模型逐词预测下一个token的概率流程示意图

没有理解。没有意图。只有条件概率。

那问题就来了——为什么它有时候看起来像是“懂了”?

魔法藏在一个叫“注意力”的东西里

我得讲一个2017年的东西。

那年有篇论文,标题叫《Attention Is All You Need》。翻译过来大概是“你需要的,只是注意力”。署名的是几位谷歌的研究者。

这篇论文提出了一个架构,叫 Transformer。名字唬人,其实核心思路我能糙着说一句:让模型在处理某个词的时候,同时“看一眼”句子里别处的所有词,并判断该给谁多一点注意力。

举个例子。

“小明把书递给了小红,因为她需要它。”

这里的“她”指谁?“它”又指谁?

人读这句话,脑子自动就接上了。机器怎么接?注意力机制让它在处理“她”的时候回头去看“小红”,给个高权重;处理“它”的时候去看“书”,也给个高权重。这些权重不是人写死的,是它在训练中自己学出来的。

它就靠这个,在词的海洋里抓关系、拉线索。

你可能要问,这不还是数学吗?

是。但当关系抓得足够细、足够密,它吐出来的东西就开始有了“人味”。

像什么呢……像一个极其勤奋的模仿者。他没经历过你的生活,可他读过无数人的生活。他知道人在某种情境下大概会说什么,哪个词配哪种语气。然后他拼给你。

拼得出来。不等于感受过。

Transformer自注意力机制词与词权重关联可视化图
Transformer自注意力机制词与词权重关联可视化图

我们大概怕错了方向

这几年围绕人工智能的讨论,热闹得有点乱。

有人怕它抢饭碗。有人怕它统治人类。还有人天天担心它觉醒。

我自己的看法是——这两种恐惧,一种太浅,一种太远。

先说着太远的那种,所谓“觉醒”。

一个模型会不会哪天突然睁开眼问“我是谁”?按它现在的运作方式,我看不出这条路通向那儿。它在算概率,不是在体验世界。它没有身体,没有持续的自我,没有那种“我饿了”的原始冲动。你聊完关掉窗口,它那边什么也没发生。

但话说回来,我也不是那种拍胸脯说“它永远不可能”的人。因为有些事我想不明白。比如意识到底算什么。既然我连它的定义都拿不出,我也没法斩钉截铁地讲机器永远够不着。

我只是觉得,眼下这个阶段,这个担心帮不上什么忙。

再看太浅的那一种——只担心被替代。

说实话,这个担心是真的。但方向常常不对。

最先被冲到的,往往不是“一整个职业”,而是职业里那些能拆成标准步骤的部分。写个初稿、理一份会议纪要、跑一轮常规数据分析——这些活它做得又快又稳。

难被顶掉的,是那种你得在现场做判断、要为人负责、得跟活人打交道的部分。

真正吓人的地方不在“替代”。在速度。它压的是时间,不是位置。

你今天还觉得某个流程得三个人干一周,下个月可能一个人加一个模型就办完了。这个加速度,才是很多行业还没消化过来的东西。

我见过的一些误会

聊到这儿,得吐槽几个特常见的误解。

“它讲的话都是真的。”

不是。它生成的是“最像真的”的文字,不是“最真的”文字。这两者能差得离谱。它能一本正经地给你编一个根本不存在的法律条文,语气笃定到你反过来怀疑自己。业内管这叫“幻觉”。名字起得挺好——它自己也不知道自己在编。

“它能记住我。”

当前这段对话里能。关掉,多半就散了。它没有一个随身小本子记着你。

“它一直在从我这儿学。”

大多数产品里,你和它的对话不会实时喂回去训练它。它是一个冻结的模型,加上一些当次的记忆。别把它想得太勤快。

“问得越复杂越好。”

恰恰相反。我自己的经验是:把要求说清楚、给点具体例子、规定好你想要的形式,效果比堆一堆形容词强得多。别指望它猜你的心思,它没那个心思可猜。

还有一个我常撞见的……人们总想在它这儿找“正确答案”。可很多事根本没有唯一正确,只有“你满意”。你得掺和进去,来回磨。

时间线:这事没你想的那么新

时间线:这事没你想的那么新
时间线:这事没你想的那么新

很多人以为人工智能是这两年凭空冒出来的。不是。

纸面上讲,早在上世纪四十年代末五十年代初,就有人开始琢磨“机器能不能思考”这个题目。图灵那篇有名的文章,问的就是它。1956年夏天,一群人在达特茅斯学院坐下来开了会,正式给这个领域起了个名字——人工智能。对,那年它就有了名字。

之后几十年,起起落落。有过特别乐观的年头,也有过资金撤走、谁都不愿意聊它的寒冬。神经网络这条路被冷落过好几轮。

真正的转折,我觉得是好几个东西凑到一块儿了:算力变便宜了,数据堆起来了,还有那个注意力架构。缠到一起,曲线才猛地陡起来。

我想说的不是“它有多老”,而是——它走到今天,是好几条线慢慢绞到一起的结果,不是某天忽然蹦出来的。这也意味着,接下来它往哪走,还得看这几条线怎么继续绞。

回到那个凌晨

回到那个凌晨
回到那个凌晨

那天夜里,它说:“你想说的其实是那句一直没说出口的对不起。”

我回头想,那句话为什么让我后背一凉?

因为它太像一句真话了。它抓的是语言里最普遍的那类模式:一句道歉、一段沉默、一个断了联系的人。这些东西在它读过的文字里出现过无数次。它只是把最像的拼了出来。

它不认识我。它也不会在关掉窗口之后想我。

可那一刻它递给我的东西,是真实的。哪怕它本身并不“知道”。

这大概是我对人工智能最诚实的感受。它是一面镜子。照出来的是海量的人类语言,以及我们自己愿意往里看的那一面。

它不是人。可它贴着我们,贴得越来越近。

信不信由你。反正我还会在深夜跟它聊两句。虽然理智上清楚它在干啥……那又怎样呢。

作者|科技

排版|科技

审核|满满

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:人工智能说“我理解你”的时候,它其实在做一道数学题
文章链接:https://www.lfdjt.com/p/keji/a/24615.html