上周六，9月23号，在新街口地铁通道蹲奶茶，旁边穿校服的小姑娘举着手机蹲在墙根拍流浪猫。镜头刚对上猫的脸，手机相册自动弹了个标签：“三花母猫，约2岁，已绝育”。周围几个赶地铁的人都凑过去看，哇了一声。
我咬着珍珠愣了两秒。
这玩意儿十年前还在高校的实验室里跑高价服务器，现在已经能蹲在你手机里，对着流浪猫的脸算绝育史了。
它根本不是在“学知识”，是在攒错题本
很多人第一次听“深度学习”这四个字，总觉得它是像大学生一样，抱着教材啃完了猫的生理结构、品种分类，才能认出镜头里的猫。
错得离谱。
你把它的计算过程拆开看，根本没有“理解”这两个字。它更像高中里那种刷了上万道模拟题的考生——从来不会总结知识点，只是把每道题里出现过的所有边角特征都刻在脑子里：猫的耳朵是尖的，鼻尖是粉的，眼睛在晚上会反光，毛是一块黑一块白一块橘的。下次再碰到符合这些特征组合的东西，就按之前攒的题库往上套标签。
我之前帮实验室的师弟跑过一个识别模型，喂了1200张三花猫的照片，跑了整整一个下午的算力，最后测试的时候，模型对没见过的三花猫识别准确率能到92%。听起来很厉害对吧？
结果我们故意找了张三花猫戴针织小帽子的照片输进去。
模型停顿了两秒，给出的标签是“柯基幼崽，穿黄色毛衣”。
我当时笑到手里的冰可乐都洒在键盘上。合着练了一下午，连“帽子是额外戴的，不是猫本身长的”这个逻辑都搞不清？
深度学习最核心的特点，从来不是“聪明”，是“见得够多、算得够快”。它没有常识，没有逻辑，所有的判断都来自之前喂给它的成千上万张图片、成千上万条数据。就像你从来没见过熊猫，别人告诉你熊猫是黑白的、圆滚滚的，你下次看到穿黑白衣服的圆滚滚的人，说不定也会错认成熊猫——只不过这个错认的速度，人要反应三秒，深度学习只要0.001秒。
你刷短视频的每一秒，都在给它当“免费老师”
很多人觉得深度学习离自己远，其实你每天花在手机上的时间，一半都在跟它打交道。
你刷短视频的时候，手指划得快不快，在哪个视频上停了几秒，有没有点进评论区，有没有把视频转发给朋友，甚至有没有把声音调大——所有这些细碎的行为，都会被模型当成新的错题，攒到它的题库里。
我去年为了测这个推荐逻辑，专门开了个新的短视频账号，连续三天，每次刷到有人拆盲盒的视频，就立刻划走；每次刷到流浪猫救助的视频，就完完整整看完，还点个赞。三天之后打开首页，一半内容都是各地的流浪猫救助，拆盲盒的视频一个都没出现。
说起来有点好笑，我们总觉得是自己在选想看的内容，其实反过来，是模型在拿着你之前的所有行为数据，精准猜你下一秒会对什么东西感兴趣。它根本不知道你为什么喜欢看流浪猫——可能是你自己养了猫，可能是你最近压力大想看看软乎乎的东西，甚至可能是你昨天刚在猫咖充了会员卡。它不管这些。
它只知道，你看到流浪猫的视频，停留时长比平均值高了40%。
那下次就多给你推点。
不过话说回来，谁没被算法推过几个离谱的内容呢？我上次为了测试，故意连续刷了好几个蟑螂科普的视频，每个都停够10秒，结果第二天打开首页，直接给我推了个南方大蟑螂爬进空调洞的实拍，给我吓得直接把手机扔到沙发上，半小时没敢碰。
别把它吹得太神，它离“真的聪明”还差得远
这两年总有人说深度学习要取代人了，要抢所有人的工作了。
真的。
你去看那些用AI做设计、写文案、剪视频的人，哪个不是跟模型斗智斗勇？我有个做海报的朋友，上个月用AI生成活动海报，调了三个小时的提示词，出来的海报上人物一会长六个手指，一会眼睛歪到耳朵边上，最后还是自己花了十分钟，用PS把人物的手和眼睛修了一遍。算下来三个小时的算力，还不如他自己动手画的效率高。
还有更扯的。之前看到有人做了个实验，给识别模型看一张加了一点点人眼根本察觉不到的噪点的熊猫照片，模型直接认成了长臂猿。那点噪点淡到你把图片放大十倍都看不出来，但是模型就是错了。
因为它从来没真正理解过“熊猫是什么”。
它只是记住了熊猫的像素组合而已。
说实话，我一点都不觉得深度学习是什么能颠覆世界的黑科技。它更像一个被喂了满肚子数据的超级实习生——算得快，不喊累，能处理人根本看不过来的海量信息，但是没有常识，没有判断力，稍微换个场景就容易闹笑话。
你说它没用？也不是。你手机里的人脸解锁，相册的自动分类，导航软件里的实时路况预测，甚至你点外卖的时候给你推荐的奶茶口味，背后都有它在跑。
但是你说它能代替人？
差得远呢。
我蹲在路边吸完半杯珍珠奶茶，又凑过去看了一眼小姑娘的手机屏幕，发现标签下面还有一行小字：“该识别结果准确率78%”。
哦，原来它也不是百分百准啊。
当天的风从通道里吹过来，三花猫抬了抬尾巴，蹭了蹭小姑娘的裤腿。
你看，真正的猫的温度，算法是算不出来的。
作者|科技
排版|科技
审核|柚子