上周三凌晨两点，实验室的空调已经停了。
我裹着搭在椅背上的冲锋衣，盯着屏幕上跑了72个小时的猫狗分类模型。旁边的3090显卡转得嗡嗡响，吹出来的风都带着点塑料味。
屏幕突然弹出一行结果。
我刚把剥了一半的橘子放在触控板边上，系统直接弹出来：置信度98%，缅因猫。
我愣了三秒。
然后笑到拍桌子。
别被”智能”两个字骗了，它本质是个记错题本的高中生
很多人第一次听深度学习，第一反应是”这东西会自己思考？能跟人一样聪明？”
真不是。
你把它想成一个刚上高中的偏科生就行。你给它扔过去几万张标好”猫””狗”的照片，让它一道一道刷。每错一次，它就调整一下自己脑子里那几万根”神经连接”的松紧度，就像高中生把错题抄在本子上，下次碰到类似的题就多留个心眼。
没有什么凭空的创造。也没有什么突然的顿悟。
全是笨功夫堆出来的。
它所有的判断，从来不是基于”我知道猫有尖耳朵有尾巴”这个常识，而是基于它在几万张图里摸到的像素关联。比如训练集里所有的猫都站在绿色草地上，它可能根本没学会认猫的脸，反倒把”绿色背景+毛茸茸的色块”当成了猫的核心特征。
上次我拿这个模型测我朋友的金毛，金毛趴在小区的绿草坪上，模型直接认成了猫。
我朋友站在旁边笑了十分钟。
那些你以为的”bug”，其实是它天生的”盲区”
说实话，我刚调模型那会，踩的坑能写满半个笔记本。
最离谱的一次是做垃圾分类的小项目。我找了五百张白天拍的厨余垃圾照片，喂给模型训练了一下午，准确率直接冲到97%，我当时都准备发朋友圈炫耀了。
结果第二天晚上我带模型去楼下测，路灯昏黄的光打在垃圾桶上，模型把半块西瓜认成了有害垃圾，把废电池认成了可回收物。
我站在垃圾桶旁边，整个人都傻了。
后来翻训练记录才反应过来——我找的所有训练照片，都是大白天的自然光下拍的，色温全是偏冷的。模型根本没学会分辨垃圾的形状，它学的是”这个颜色的像素块对应什么垃圾”。
你看，这就是它最核心的盲区：它永远只会学你喂给它的东西，你没喂到的角落，它半点儿都不会自己补。
之前有个很有名的实验，研究人员给一张熊猫的照片上加了人眼根本看不见的噪点，模型直接把熊猫认成了长臂猿。不是模型瞎，是它从来没见过带这种噪点的熊猫，在它的特征库里，这种噪点的组合刚好和长臂猿的像素特征对上了。
很多人说这是”AI犯错”，其实根本不是。它从一开始就没在”认东西”，它只是在数像素。
别神化也别贬低，它就是个好用到离谱的实习生
我刚接触深度学习那会，也跟着网上的人瞎焦虑，觉得这东西再过两年就要抢所有人的饭碗。
现在蹲在实验室调了快两年模型，反倒觉得没什么好怕的。
你把它当成个刚招进来的实习生就行。
这个实习生记性特别好，能在几秒钟里翻完你给它的几十万份文档，能把你堆在桌上的几千张照片按你说的规律分好类，你让它做重复性的、要花好几个小时整理的活，它比谁都快，还不会喊累。
但它从来不会主动问你”我这么做对不对”，也不会自己发现”哦原来我之前学的规律在另一个场景下不适用”。你给它的训练数据有问题，它就跟着错，错得理直气壮。
你说它没用？也不对。上个月我用它整理了半年来拍的1200张实验记录图，把每张图对应的实验参数、日期都标得清清楚楚，比我自己坐在电脑前整理快了整整三天。我还拿它帮我妈整理过她拍的几千张花的照片，按品种分好类，我妈现在逢人就夸我”搞的那个高科技真好用”。
不过话说回来，你要是指望它能像人一样，看着橘子就知道这是吃的不是猫，那你肯定要失望。对吧？
它离”懂”这个字，还差得远呢。
对了，昨天我又给那个猫狗模型补了两百张我放在各个地方的橘子照片当负样本。
今天再测，它终于不会把我手里的橘子认成猫了。
显卡还是转得嗡嗡响。
但我知道，它还是不知道橘子是什么。
它只是记住了：这种橙色的、圆的色块，不是猫。
作者|科技
排版|科技
审核|满满