上周你翻手机相册，在搜索框敲了个“猫”。
跳出来的结果，一半是你去年冬天在小区楼下喂过的三花，一半是你拍过的、长得跟猫有七分像的猫形路牌，甚至还有你家猫踩在键盘上留下的乱码截图——因为你当时给这张图标了“猫片”。
你当时翻了个白眼，骂了句什么破识别，转头就把这事忘了。
你以为的“聪明”，其实是它背了一百万张猫图
很多人对这东西的第一印象，是真的“懂”你。就像你楼下常打招呼的便利店老板，记得你爱喝冰美式不加糖。
错了。
它根本不知道猫是什么，也根本不知道你爱喝什么。你手机里的那个识别算法，在训练阶段见过一百万张标好“猫”的照片，也见过一百万张标好“不是猫”的照片。它逐像素地对比，慢慢摸出一套粗糙的规律：毛乎乎的色块占比超过30%，旁边有两个对称的尖状轮廓，整体轮廓在画面里的比例是多少——碰到符合这些特征的图，就往“猫”的文件夹里塞。
它不认识猫。真的。
上次我给我家三花套了个狗头造型的绒线帽，相册直接把这张照片归到了“狗”的相册集里。我盯着那张图笑了快十分钟。
别觉得这很蠢。你自己走在大街上，老远看见个穿黄外套的人，也会先反应“是个穿黄外套的路人”，走近了才认出来是上周在电梯里帮你按过楼层的邻居。本质上大家都是先抓最明显的特征，再慢慢补细节，没谁是隔着五十米就能一眼看穿对方是谁的。
那些吹得神乎其神的功能，大多是“凑数”凑出来的
刷短视频的时候，你刚划走一个讲金融的视频，速度快了0.3秒，系统就默默记下来：哦，这个人不爱看这个。你在一个修驴蹄的视频上停了整整四秒，它就顺着这个方向，给你推了整整一屏类似的内容。
很多人把这吹成“算法比你还懂你自己”。说实话，这哪是什么懂你。就是把你所有的微小行为全拆成了数字，凑在一起找个大概的方向而已。
别信那些“机器学习精准预测未来”的鬼话。
前两年我帮朋友对接过一个零售预测的项目，说这套算法能精准算出下个月每个门店卖多少瓶酱油。最后跑了半年，误差最大的时候能差出去40%。为啥？因为隔壁超市突然把酱油打了五折，因为这周突然降温大家都跑去买火锅底料，因为某个百万粉的博主突然在视频里说这个牌子的酱油吃着发苦。这些毫无预兆的意外，它事前根本没见过，怎么可能算得准。
它算不准意外。
你把过去三年所有晴天的温度、湿度、卖伞的数量全输进去，它能给你算出个八九不离十的大概数，但你永远算不准哪天下午会突然下一场把人淋透的雷阵雨。
你不需要会写代码，也能看懂它的“脾气”
很多人一听见机器学习，就觉得这是数学系博士才能玩明白的东西，满屏幕的公式看着就头大。
根本不是。
你就把它当成刚招进来的实习生就行。
这个实习生特别能吃苦，你扔给他多少资料他都能一字不差背下来，但是他完全没有常识。你让他算今天办公室所有人的平均身高，他能算得特别准，但你要是把姚明的身高错填成1米5，他也会认认真真把这个数算进去，最后给你一个离谱的平均值，还特别自信地告诉你结果完全符合要求。
它从来不会主动质疑你给的资料对不对。你给它教的东西全是错的，它就学出来一套错得离谱的本事。之前有个用来筛选招聘简历的模型，因为训练的时候收集的历史数据里，大部分拿到技术岗offer的都是男性，大部分行政岗的候选人都是女性，最后模型跑出来，直接把所有投技术岗的女性简历全筛掉了。它根本不知道这是歧视。它就只是照着之前给它的标签，老老实实找规律而已。
有人问，那这玩意到底有啥用？
它的用处，从来不是替你做判断。是帮你把那些翻来覆去数到头疼的活先干了。比如你有一万张门店巡检的照片，你自己对着看要花整整三天，它十分钟就能帮你把所有照片里货架空了的、员工没戴工牌的全挑出来。你有一千份客户的反馈留言，你自己读要读到眼酸，它能帮你把所有提到“快递慢”的句子全挑出来，按提到的次数排好。
上次我那个开奶茶店的朋友，折腾了快半个月，想让机器学习帮他算每天要准备多少珍珠。最后发现，算出来的数还不如他自己站在店门口数三天客人靠谱。为啥？因为他的店开在大学旁边，周一到周五下了课人挤人，周末大家都出去玩店里空落落的，期中周大家熬夜复习会多买两杯奶茶，放寒暑假整条街都没什么人。这些细碎的、带着烟火气的规律，你不亲自待在店里泡上一个月，根本摸不准。你把这些零零碎碎的数输进去，模型算出来的结果，永远差那么点意思。
没那么神。
很多人现在把这东西吹得好像再过两年，它就能自己写诗、自己做饭、自己当老板，把所有人的活都抢了。其实根本没那回事。它就像你抽屉里放的那把螺丝刀，你能拿它拧螺丝装书架，你要是拿它开啤酒也能撬开，但那不是它本来的用处。你要是硬拿它当锤子砸钉子，迟早砸到自己的手。
作者|科技
排版|科技
审核|柚子