风从开着的车门吹进来的时候我还在想，这破推荐算法怎么知道我就爱看那种裹着糖霜的棉花糖在炭火上烤到流心的视频？之前我明明只搜过一次”露营带什么零食”。
你以为的”懂你”，根本不是算法在猜你的心思
之前我也以为，这些推荐逻辑是工程师写在代码里的——喜欢露营的人，就推露营装备、推户外美食、推同好的vlog。直到上个月跟之前在大厂做算法的朋友在路边摊撸串，他啃着烤串翻了个白眼，说那是二十年前的规则引擎，现在谁还写这个啊。
现在跑在推荐系统最底层的，就是深度学习。
没人给它写死”喜欢露营的用户要推什么”。它要做的事特别简单：把过去几百万用户的浏览记录、停留时长、点赞评论数据全部拆成碎块，扔进搭好的网络里，让它自己找规律。
比如它会发现，连续刷三条烤棉花糖视频的用户，有70%的概率会在接下来的半小时里点开一条关于”秋天去山里看枫叶”的内容。这个关联不是人教的，是它自己从数据里算出来的。
真的。
你根本没法跟它讲道理，为什么看烤棉花糖的人会喜欢看枫叶——它不管逻辑通不通，只要数据里这个关联出现的次数够多，它就会一直推。
很多人说这个热图像是模型在”做梦”，其实还真有点那意思。它看到的不是你能看懂的视频内容，是一堆像素块的颜色、运动轨迹、甚至音频里的音调变化，把这些碎块拼到一起，它能算出”这个内容大概率会让某类用户多停留两秒”。
就这么简单。没什么玄乎的”洞察用户心理”，本质上就是个攒了一堆数据的”猜题小能手”。
那个吹得神乎其神的”神经网络”，其实是个偏科的笨学生
我之前刷到过一个测试视频，把一张人眼完全看不出差别的猫的照片，上面贴了一个只有几个像素点的小贴纸，结果本来能100%认出猫的模型，直接把这张图认成了金毛。
我当时盯着屏幕愣了三秒。
合着这货学了这么久，连猫和狗都分不清楚？
这种专门用来戳穿模型软肋的测试方法，在业内叫对抗样本测试。说白了，就是深度学习模型的”考试作弊漏洞”——你只要在它平时训练的范围之外，稍微动一点手脚，它之前学的所有东西就全崩了。
说出来你可能不信，它的”学习”过程，和你高中时候背题库应付考试的状态一模一样。你把一万张猫的照片喂给它，它能记住所有猫的照片里大概有什么特征：尖耳朵、圆眼睛、有胡须。但它根本不理解”猫是什么”。
就像你背了一百道政治题的标准答案，考试的时候碰到一道一模一样的题，你能拿满分，但只要题目稍微改两个字，你就不知道怎么答了。
我那个朋友说，之前他们团队做过一个识别路边垃圾桶的模型，训练的时候用的全是晴天拍的照片，结果到了下雨天，模型直接把垃圾桶认成了蹲着的人。
你说这是智能？我看更像是个只会死记硬背的偏科生。
别信那些”颠覆一切”的鬼话，它现在还在抄作业的阶段
前两年总看到各种文章说深度学习要取代设计师、取代文案、甚至取代程序员。我身边真的有朋友焦虑到报了三个编程班，就怕被模型抢了饭碗。
其实真的没必要。
你现在能用到的所有看起来”像人一样思考”的深度学习应用，本质上都在干一件事：根据已有的数据，猜下一个输出是什么。
不管是能写文案的大模型，还是能画插画的图像生成模型，它根本不知道自己写的句子是什么意思，也不知道自己画的东西美不美。它只是把整个互联网上所有已经存在的文本、图片都拆成了碎片，然后算出来，哪几个碎片拼到一起，最符合人类的审美习惯。
说白了，就是个超级会抄作业的课代表。
上次我问某大模型，我家猫昨天把沙发抓烂了，我应该骂它还是给它买新的猫抓板。它给我列了整整五条建议，从”不要惩罚猫”到”猫抓板要放在沙发旁边”，看着特别专业，结果最后补了一句”如果你的宠物是金毛，这个方法也同样适用”。
给我看笑了。
它根本不知道猫和金毛是两种完全不同的动物。它只是从之前的文本里，看到”养宠物”的段落后面经常会跟着”金毛”，就顺嘴把词凑上去了。
我那个朋友说，现在行业里很多人都在卷参数量，卷训练数据的规模，好像模型越大就越厉害。但实际上，很多时候多花几千万电费训练出来的模型，在实际使用的时候，比小模型的效果好不了多少。
“你知道训练一次千亿参数的模型要花多少电费吗？够我们整个工作室吃三年的十三香小龙虾。”他说这话的时候，手里的烤串都快攥出油了。
昨天我又刷到了那个烤棉花糖的视频。
还是一样的镜头，一样的糖霜流下来的特写。
我没划走。
其实想想也挺有意思的，我们每天花好几个小时在手机上，被这些没有真感情、没有真理解的算法牵着走，还总觉得它比你自己还懂你。
哪有什么懂啊。
它只是刚好在几百万个用户的行为里，碰到了和你行为模式差不多的那群人，然后把他们喜欢的东西，原封不动推给你而已。
作者|科技
排版|科技
审核|白杨