我盯着那个把哈士奇认成狼的模型看了半小时:机器学习到底在学什么

上周三晚上十一点多吧,我还在翻一个图像分类模型的错误样本。

有个图,哈士奇,雪地背景,模型给了个“狼”的标签,置信度0.87。

我盯着那张图看了得有半分钟。第一反应是:这也能错?第二反应是——等等,它可能没“错”,它看到的东西和我看到的不一样。

我认识那只狗。朋友家的,叫二哈,蠢得很,但确实是狗。

问题就在这。一个模型,喂了几百万张图,跑了不知道多少轮,最后在雪地和哈士奇之间建立了一个我根本没想到的关联。它不是在认狗。它在认雪。

这事儿让我一直记到现在。不是因为它多严重,而是因为它太典型了。典型到我觉得,聊机器学习如果不从这个地方切进去,基本就是白聊。

机器学习图像分类错误样本哈士奇雪地误判狼
机器学习图像分类错误样本哈士奇雪地误判狼

它到底在“学”什么,你确定你知道?

它到底在“学”什么,你确定你知道?
它到底在“学”什么,你确定你知道?

我见过太多人把机器学习想象成一种高级的查表。你给它一堆输入和输出,它记住对应关系,然后新来一个输入,它翻翻笔记,告诉你答案。就像考试前背了一整本习题集,遇到原题就秒答。

这个理解……也不能算全错。但它漏掉了最要命的部分。

因为机器学习真正在做的事情,是从数据里找一个函数。这个函数的任务很简单:给定输入,输出预测。但它的内部长什么样,没人能提前画出来。你得让它自己去调。调到最后,它可能在某个你完全没留意的维度上,把两类东西分开了。

回到那只哈士奇。模型学到的是“雪地→狼”这个关联。因为训练数据里,狼的照片大多数拍于雪地,而哈士奇的照片大多数拍于客厅或者公园。于是模型懒得去学“毛色”“体型”“耳朵形状”这些真正区分狼和狗的特征,它走了捷径。

这叫捷径学习。机器学习里一个特别隐蔽、特别常见、特别让人哭笑不得的坑。

你说它聪明吗?它确实找到了一个能降低损失的规律。你说它蠢吗?这个规律在现实世界里屁用没有。

这就是机器学习的第一个反直觉的地方:它优化的目标和你真正想要的东西,经常不是一回事。

你给它一个损失函数,它就会拼命去降低这个数字。至于降低这个数字意味着什么,它不知道,也不关心。

数据和经验,差得远呢

我有时候会跟人开玩笑说,机器学习模型就像一个刚出生就失忆的成年人。它不记得任何事,但它的“大脑结构”已经定型了,剩下的就是靠你喂给它的经历来重新塑造。

问题是,你喂给它的“经历”,和它从经历里提取的“经验”,中间隔着一道巨大的鸿沟。

举个例子。假设你想让一个模型学会判断一封邮件是不是垃圾邮件。你给它一万封标注好的邮件,正例反例都有。它跑完,准确率98%。你挺高兴。

然后你换了一个邮箱,准确率掉到62%。为什么?

因为它可能学到了“发件人域名里有’promo’这个词”就等于垃圾邮件。在你原来的数据集里,这个规律确实成立。但换一批数据,这个规律就崩了。

它学到的是样本里的巧合,不是世界里的因果。

这事儿说起来简单,但做起来特别容易翻车。因为训练的时候你只看数字——损失降了,准确率涨了,你就觉得模型在变好。你看不见它内部到底在依赖什么线索。等到部署上线,遇到真实数据,问题才炸出来。

机器学习训练集验证集过拟合曲线对比图
机器学习训练集验证集过拟合曲线对比图

还有个更隐蔽的版本:数据泄露。

你构建特征的时候,不小心把一个“未来才知道”的信息加进去了。比如预测房价,你用了“成交后30天内是否降价”这个字段。模型在训练集上表现神勇,因为它在作弊。它看到了答案的一部分。

这种错误,在教科书里看觉得特别低级。但在真实项目里,几乎每隔一段时间就会冒出来一次。我自己就踩过。而且踩的时候,你往往是最后一个知道的。

背答案和真会做,是两码事

背答案和真会做,是两码事
背答案和真会做,是两码事

说到这,就绕不开一个词:过拟合。

这个词被讲烂了。但我发现很多人对它的理解停留在“模型太复杂了”这个层面。其实更准确的描述是:模型把训练数据里的噪音也当成规律记下来了。

打个比方。

你让一个学生做数学题。他不理解公式,但他把练习册里每一道题的答案都背下来了。考试的时候,题目换了个数字,他就不会了。

这就是过拟合。他“记住”了,但没“学会”。

机器学习的核心矛盾之一,就在这。模型越复杂、参数越多,它能记住的东西就越多。但记住和泛化,是两股道上的车。

你希望模型在新数据上表现好,也就是泛化能力强。但训练的过程,是在已知数据上降低误差。这两个目标,在某个点上会发生分歧。

你训练得越久,训练误差一直在降,但验证误差可能先降后升。那个最低点,就是你在“记住”和“学会”之间的平衡点。

找这个点,是机器学习里一门手艺。没有什么万能公式。得靠经验、靠直觉、靠一次次试。

说实话,这活儿有时候挺让人暴躁的。

那,它到底有没有在“理解”?

经常有人问我:你觉得现在的机器学习模型,到底懂不懂它在干什么?

我一般会反问:你说的“懂”是什么意思?

如果一个模型能在ImageNet上把一千类物体分对,准确率超过人类,它算懂吗?如果它能把一段中文翻成英文,语法没问题、语义也通顺,它算懂吗?

如果它写一首诗,押韵、有意象、还能让你心里咯噔一下,它算懂吗?

我没有标准答案。这也是我觉得机器学习最有意思的地方——它不只是一个工具,它还是一个镜子。你在研究它怎么学的时候,其实也在重新审视自己是怎么学的。

你看到一个词,脑子里的第一反应是什么?你看到一个图像,你先注意哪个区域?你判断一句话是讽刺还是认真,靠的是什么线索?

这些问题,神经科学和认知科学搞了几十年,也没完全搞明白。但机器学习模型在这些任务上的表现,逼着我们去想这些问题。

有时候我觉得,我们训练模型的方式,暴露了我们自己的偏见。我们觉得“猫长这样”,于是数据集里全是那种猫。模型学会了,但我们看到一个无毛猫,也愣一下。

谁教谁啊。

冷思考:别把机器学习当成万能钥匙

冷思考:别把机器学习当成万能钥匙
冷思考:别把机器学习当成万能钥匙

我写这篇文章,不是因为我觉得机器学习没用。恰恰相反。它有用,而且会越来越有用。

但我不喜欢那种“机器学习能解决一切问题”的调子。

机器学习能做的,是从大量数据里找统计规律。这句话听起来很朴素,但它的边界非常清晰。

它不擅长处理小样本。它不擅长处理因果推断。它不擅长处理那些“规则一变,整个逻辑就崩了”的场景。它不擅长告诉你“为什么”。

它擅长的是:在数据足够多、模式足够稳定、容错空间足够大的场景里,给你一个比人工规则好得多的答案。

识别垃圾邮件。推荐你下一首想听的歌。在医学影像里标出可疑区域。把语音转成文字。

这些都是它的舒适区。但出了这个区,它可能比你想的要脆弱得多。

我见过太多团队,一上来就要用机器学习解决一个连数据都没有的问题。样本量几百条,特征全靠拍脑袋,还指望模型能给出可靠预测。这不是机器学习,这是赌博。

所以我自己在做项目的时候,会先问一个问题:这个任务,真的是一个“从数据里找规律”的问题吗?

如果答案是“是”,那我们再聊数据量够不够、特征有没有信息量、评估标准合不合理。

如果答案是“不是”,那机器学习可能帮不上忙。或者至少,它不是第一步。

说到这,我想起之前看过一个比喻,觉得挺贴切:机器学习就像给一个盲人一根拐杖。拐杖能帮他走路,能帮他避开一些障碍。但你不能指望拐杖告诉他前方有悬崖。

悬崖这件事,得靠别的东西。

行吧,就聊到这。那只哈士奇我后来没再管了。但我把那张图存下来了,放在桌面一个叫“陷阱”的文件夹里。

时不时看一眼。

提醒自己,模型看到的,和你看到的,可能完全不是一回事。

作者|科技

排版|科技

审核|小准

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:我盯着那个把哈士奇认成狼的模型看了半小时:机器学习到底在学什么
文章链接:https://www.lfdjt.com/p/keji/a/24624.html