前几天我蹲在沙发上剪视频，顺手把我家橘猫蹲在路由器上踩散热孔的片段发了某音，没加话题，没@任何人，10分钟刷一下后台，居然推给了三个同样养橘猫、同样有“猫蹲路由器”日常的陌生人。
一开始我还觉得平台真懂我。
后来问了个做算法的朋友才知道，哪是什么懂我。
是机器学习在后台，把我的视频拆成了碎得不能再碎的像素块、音频片段，甚至连我视频里背景音的“路由器嗡嗡声”都拆了出来，再匹配到那三个用户之前刷过的所有同类内容，精准推了过去。
别被“智能”两个字骗了，它根本不会“思考”
我第一次知道这事儿的时候，差点把手里的冰美式洒键盘上。合着我以为它在“认猫”，结果它根本不知道什么是猫。
真的。
它从来没见过活的橘猫，也不知道猫会掉毛、会偷喝杯子里的奶茶、会在你赶 deadline 的时候踩你键盘，它只是在训练阶段被喂了几百万张标好标签的图——每张图下面都有人工标注的“这是猫”“这是狗”“这是路由器”，它要做的，只是算出哪几种像素的组合，和“猫”这个标签绑定的概率最高。
之前有个程序员朋友给我演示，他把一张正常的猫图，改了几个人眼完全看不出来的像素点，结果机器学习直接把它认成了一只金毛。我凑到屏幕前盯了五分钟，连个像素点的变化都没找着！
更有意思的是，它甚至能把一堆完全不相关的像素，拼出“猫”的样子。比如有人用算法生成过一张“完全由像素堆出来的猫”，人眼一看就是模糊的、歪歪扭扭的，但机器学习自己认的话，会百分百确定这是一只猫。
说白了，它就是个背题背到滚瓜烂熟的学生，根本不知道题目的意思，只要看到类似的题型，就直接套之前背过的答案。
你以为的“精准推荐”，本质是在给你画个看不见的圈
上周我在新街口逛的时候，搜了一句“附近有没有卖活珠子的现煮店”，转头打开某书，首页直接给我推了三家科巷的摊子——连我没说出口的“不要真空包装、要带汤的”，它都猜着了。
说实话，那一瞬间我有点后背发凉。
它根本不知道我是要带给我妈当早饭，还是要带去公司给同事尝鲜，它只是把我所有的行为拆成了一个个小标签：“南京本地”“近期搜索本地小吃”“对小众市井美食感兴趣”“25-30岁女性”，然后把符合这些标签的内容，一股脑塞到我首页最靠前的位置。
我之前故意试过，连续刷了一周的昆虫标本视频，结果后来整整半个月，我刷到的全是各种奇形怪状的甲虫、蝴蝶标本，连我平时常刷的猫视频都被挤得没影了。吓得我赶紧刷了三天的猫、五天的咖啡教程，才把标签掰回来。
很多人说“机器学习越用越懂你”，这话半真半假。它确实能慢慢摸准你的喜好，但本质上是在给你画一个越来越窄的圈——你今天踩了什么坑，它就把坑的范围划得更小，根本不会主动给你看圈外面的东西。
比如你要是连续看了三天的职场吐槽视频，它就默认你只关心职场，哪怕你突然想看点天文纪录片，可能刷半小时都刷不到——因为它已经把“喜欢天文”的标签，从你的用户画像里删掉了。
那些吹得神乎其神的大模型，其实也有蠢得离谱的时候
去年我拿“南京长江大桥的最大承重是多少”这个问题，去问某热门大模型，它给我编了个“根据2019年某桥梁学报的研究，最大承重为120吨”，甚至还附了个看起来特别像模像样的论文编号。
我特意去知网搜了半小时，根本没这篇学报，也没这个编号。
不是它故意撒谎。
是它在训练的时候，学了几十亿字的文本，只是在算“当有人问桥梁承重的时候，哪串文字的组合概率最高”——它根本不知道自己说的是真的还是假的，就像你背了一堆古诗词，但根本不知道每句诗写的是什么场景，有人问你“李白有没有写过‘今天天气真好’”，你可能也会瞎编一句出来凑数。
有朋友问我，那它什么时候能真的变聪明？
说实话，我觉得现在的机器学习，还停留在“背题”的阶段。你给它一道它见过的题，它能给你答得特别漂亮，甚至比人类答的还顺，但你要是给它一道完全新的、没见过的题，比如“如果一只猫每天掉10根毛，路由器上积了300根猫毛，是攒了多少天的”，它可能会给你算成30天，但它根本不知道猫毛会被风吹走、会被我扫掉——它根本没有“常识”，也不知道现实世界的运行规律。
我知道现在很多人要么把机器学习吹成无所不能的神，要么把它当成要统治人类的洪水猛兽。
真没必要。
它就是一堆代码跑出来的概率游戏，没有自我意识，也没有什么不可告人的野心，你要是觉得它给你推的内容烦，大可以点“不感兴趣”，多搜点你平时不会看的东西，它的圈就会慢慢变大。
上次我故意搜了好几天的天文纪录片，结果没过一周，我的首页就开始推猎户座的观测教程了——原来它也不是那么死板，只要你愿意主动打破那个圈，它还是会跟着你走的。
毕竟握着遥控器的人，从来都是你。
作者|科技
排版|科技
审核|小准