凌晨两点刷到的那只踩奶的橘猫，你刚在闺蜜群吐槽完”最近根本停不下来云吸猫”，算法就精准把视频推到了你首页。
你可能会觉得，这玩意儿太懂你了。
哪有那么神。
你以为它懂你？其实它连”猫”是什么都不知道
很多人对深度学习的第一印象，是个装了海量知识库的聪明机器人，能精准摸透每个人的喜好，甚至能预判你下一秒想看什么。
真不是。
现在跑在你手机里的推荐模型，在预训练阶段根本没人给它标注过”这是猫””这是奶茶””这是你爱看的旅行vlog”。它做的事情说出来特别傻：把几亿张无标注的图片、视频、文字拆成最小的像素块、字块，然后反复猜——下一块像素是什么颜色，下一个字是什么内容。猜得不对，就调整一下内部几百万个小参数的数值，猜了几亿次、几十亿次之后，它居然慢慢摸出了规律：哦，有尖耳朵、软绒毛、圆眼睛的像素块组合，往往和”人愿意停下来看几秒”的行为数据凑在一起。
注意，它根本不知道自己识别的东西叫”猫”，也不知道人为什么会喜欢看踩奶的橘猫，更不知道”云吸猫”是个什么网络梗。它只是在无数次的错误猜测里，磨出了一套对像素组合的直觉。
上次和一个做计算机视觉的朋友吃火锅，他拍着麻酱碗吐槽，前两年他们团队为了做猫脸识别，三个人蹲在办公室标了三个月的数据集，两万张图，每一张都要框出猫的耳朵、眼睛、爪子，最后训出来的模型，一遇到穿橘色衣服的小狗就认成猫，准确率低到没法上线。结果后来他们换了个公开的、没有任何人工标注的预训练模型，只花了一周微调，准确率直接翻了快一倍。
“合着我们之前三个月的活，还不如机器自己瞎猜几亿次有用？”他当时说这话的时候，毛肚都烫老了。
别被”深度”两个字骗了，它的记性其实差得离谱
很多人觉得深度学习既然能处理那么多数据，肯定是个博闻强记的学霸，不管问什么都能对答如流。
错得离谱。
它更像个临时抱佛脚的艺考生。考前把所有历年真题的答案背得滚瓜烂熟，但是根本没理解题目背后的逻辑，你把题目的表述换个说法，甚至只是改了个标点，它可能就直接卡壳了。
之前看到过一组很有意思的测试：给模型看一张戴着墨镜的学生证件照，它能99%的概率准确说出”这是XX中学的学生”，结果只是把墨镜换成普通的医用口罩，它直接就认不出这是同一张脸了。你说它是真的认识人吗？它只是记住了”露出眼睛的证件照=学生”这个固定的像素组合而已。
我上次试国内的文生图工具，让它画”一只在奶茶店敲代码的柯基”，第一次出来的柯基，爪子是融化的巧克力色，键盘直接飘在半空中。我反复调了八次提示词，一会儿说”爪子要放在键盘上”，一会儿说”奶茶店要有玻璃门”，它才勉强凑出个看起来像那么回事的图。它根本不知道柯基是什么，不知道代码是打在屏幕上的，也不知道奶茶店是什么地方，只是把我给的关键词，拆成碎片拼出了大家平时在网上见过的、和这些词关联度最高的像素组合。
说个更离谱的。之前有研究者在一张熊猫的图片上，加了一层人眼完全看不出来的细微像素扰动，模型直接把这张熊猫认成了长臂猿。换成人来识别，哪怕你把图打码到只剩轮廓，也绝对不会把熊猫和长臂猿搞混。
这就是深度学习的软肋：它所有的判断，都来自于之前见过的样本组合，根本没有真正的常识。
那些吹得神乎其神的”技术革命”，其实没那么玄
每隔几个月，就能刷到几篇耸人听闻的文章，说深度学习马上就要取代人类，要抢所有人的工作。
别信。
我之前认识一个做工业质检的工程师，他们车间去年上了深度学习的检测系统，用来识别零件上的细微裂缝。一开始大家都觉得，这东西能24小时不眨眼盯着流水线，肯定比人工检测靠谱多了，能把质检的成本砍一半。结果跑了三个月才发现，模型对那种从来没出现过的新型裂缝，根本认不出来——毕竟之前的训练数据里，从来没有过这种裂缝的样本，它总不能凭空长出识别能力对吧？
最后还是得靠老师傅，每天对着模型筛出来的”正常零件”清单，把那些模型没认出来的新瑕疵挑出来，再喂给模型重新训练。折腾了大半年，模型的准确率才刚追上干了十年的老质检。
不过话说回来，你也别觉得这东西全是花架子。
我家小区去年换了带深度学习识别的门禁，之前那个老门禁，我只要戴个口罩、压个帽子，就得站在门口掏半天钥匙。现在呢？我就算把羽绒服的帽子拉到眉毛，手里拎着三袋快递，它两秒就给我识别开了，门弹开的那一刻，我是真的觉得这技术挺好用的。
上次去参加一个技术沙龙，有个做了十年深度学习的老工程师，开场第一句话不是讲什么前沿突破，是掏出来个U盘晃了晃：”我上周训的模型，跑着跑着突然把所有猫的图都认成了吹风机，我找了三天bug，才发现是训练的时候有一批吹风机的图，标签导错了。”
台下笑成一片。
你看，这就是真实的深度学习世界。没有科幻电影里的天网，没有能自己思考的超级智能，就是一群工程师，对着几百万个看不见的小旋钮，拧来拧去，调了又调，偶尔出个离谱的bug，然后再花好几天把它修好。
之前有个读者给我发消息问，那深度学习到底什么时候能学会真正的思考？
我当时没直接回。给他举了个例子：你教隔壁邻居家的小孩认苹果，你给他看十个红苹果，他下次看见差不多的红果子，会说”这是苹果”。他知道苹果是甜的，咬起来是脆的，是从树上摘的，吃完了核能种出小树苗。但是深度学习模型呢？哪怕它能在一亿张图里精准找出所有的苹果，它也不知道苹果能吃，不知道甜是什么味道，不知道树是什么东西。
它的”智能”，从来都是人类在互联网上留下的所有痕迹的镜像。
它能写出看起来很通顺的文章，能画出很好看的图，能精准给你推你爱看的视频，本质上都是因为，人类已经在过去几十年里，在网上留下了太多太多的内容。它只是把这些内容拆成最细的碎片，重新拼出一个符合你期待的东西而已。
哪有什么魔法。
作者|科技
排版|科技
审核|小北