机器学习把吉娃娃认成松饼,它到底在“看”什么

2019年3月,推特上有个叫Karen Zack的人贴了一组对比图。左边一只吉娃娃,右边一块蓝莓松饼。中间……是一排被模型判成“松饼”的吉娃娃。评论区乐成一片。

笑完之后有个挺冷的问题浮上来:那台机器眼里的世界,长什么样?

我写科技内容写了几年,机器学习这个题写过不少。写多了会有一种奇怪的疲劳——绝大多数解释都停在“它从数据里学规律”这一句。没错。但也基本等于什么都没说。

它认的不是狗,是像素之间的统计惯性

假设你在训练一个模型分辨猫和狗。你以为你在教它“耳朵尖不尖”“脸扁不扁”。它真正干的事,是把图片拆成一大堆数,然后想办法找一条线——或者很多条线——把两类数分开。

麻烦就在这儿:模型优化的是它在训练数据上的表现,不是你脑子里那个概念。

这两件事很多时候是一致的。可一旦碰上训练集里没出现过的组合,差别立刻暴露。有研究者做过那个很有名的对照:一张牛站在草地上的照片,模型认得出来;把同一头牛抠出来贴到沙滩上,模型就懵了。为什么?因为它判断的依据里混进了“草地”。草地没了,线索也就断了。

这不是模型笨。它只是忠实地学会了数据里真实存在的相关性。

图像分类模型特征可视化热力图示例
图像分类模型特征可视化热力图示例

所以每次看到有人讲“机器学习就是从数据里学规律”,我都想补一句:它学的是数据的形状,不是世界的形状。

教它的那些人,手指头都磨出茧了

教它的那些人,手指头都磨出茧了
教它的那些人,手指头都磨出茧了

还有件事,外面聊得少,圈内人聊起来会沉默几秒。

模型不是凭空长大的。它吃的每一口都是人喂的。图片要有人框出“这里是猫”,文本要有人判断“这句是夸还是骂”,语音转写要有人一句句对。

这活儿叫数据标注。规模有多大呢?早些年有媒体去肯尼亚内罗毕的标注外包公司采访,那边的人一天要标几百上千张图,时薪低到我不太想把数字写出来。

真正麻烦的还不是钱。是标注这件事本身就带主观性。同样一句“还行吧”,有人标中性,有人标负面。“这只猫很凶”算负面吗?看语境。标注员当时的判断,就这么变成了模型世界观的一部分。

你看到模型输出离谱,第一反应往往是“算法不行”。可很多时候,问题出在三个月前某个下午,某个人手指一抖。

最容易被骗的人,是造它的人

最容易被骗的人,是造它的人
最容易被骗的人,是造它的人

2012年,一个叫AlexNet的神经网络在ImageNet图像识别比赛上把错误率压下去一大截。从那儿开始,“深度学习”四个字从学术圈的角落走到了聚光灯下。这段历史被讲过太多次。

我更想说的是它的副作用。

当一个方法在测试集上表现漂亮,人会不自觉地相信“它懂了”。然后拿它上线。然后发现——现实世界不按测试集的剧本走。用户换了新手机,拍照风格变了;行业黑话冒出来,输入的词变了。准确率就这么往下掉。

这个现象有个名字,叫分布漂移。

有点像什么呢。像你为了顺手,把家里所有东西都塞进固定的抽屉。半年后搬了家,抽屉还是那些抽屉,东西全放不回原位。

所以真正做工程的人,花在“训练”上的精力反而是小头。大头在监控、在数据回流、在发现问题之后重新标一遍。这活儿一点都不性感。

几个我老被问到的问题

几个我老被问到的问题
几个我老被问到的问题

问:机器学习是不是就是用数据训出来一套程序?

算对一半。训出来的东西更像一堆数——从几十万到上万亿个参数。它没有一份“规则清单”,你也没法打开来看。这就是大家说的黑箱。想让它可解释,得另外下很多功夫。

问:那大模型也是机器学习?

是,机制上算一家人,只是规模差了好几个数量级,训练的路子也不太一样。规模大到某个程度,会冒出小模型身上看不到的能力,这事儿到现在也没个特别干净的解释。

问:它会取代写代码的人吗?

这问题我给不出有价值的判断。但我知道一件事:十几年前做图像识别的人要手动设计特征,写几百行代码去提边缘、提角点。这段工作现在基本被模型包了。被替掉的从来不是“写代码”这个动作,是“用某种特定方式解决问题”的惯性。这个规律过去一直在发生。

它到底在不在“思考”

这问题特别容易把人绕进去。我的态度比较务实:短期内没法定论,因为“思考”这个词自己就没有公认的判据。

但有个更可操作的问题可以问——它在多宽的范围内,能给出稳定靠谱的输出。

这个范围,行话叫泛化。窄一点,它就是个很贵的复读机。宽一点,它能给出你没见过的组合。宽度从哪来?数据、结构、算力,还有一点点运气。

没别的了。

……

回头再看那只吉娃娃。

它被认成松饼,好笑是好笑。可它提醒了我一件挺要紧的事:机器看东西和我们的顺序是反的。人先看到“狗”,才注意到棕色、毛茸茸、圆脸。机器先接住那一堆数字,然后才勉强拼出一个标签。

顺序不同,错法就不同。搞清楚它会怎么错,比相信它一直对,有用得多。

作者|科技

排版|科技

审核|阿辰

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:机器学习把吉娃娃认成松饼,它到底在“看”什么
文章链接:https://www.lfdjt.com/p/keji/a/25009.html