奶茶店排队时,我搞懂了大模型算法到底在干什么

昨天是9月23号,我在南京新街口排奶茶队,太阳晒得后颈发疼,四十多分钟的队伍挪得比蜗牛还慢。刷手机刷到一条私信,问我天天说大模型,能不能讲明白大模型算法到底是个啥,是不是只有博士才能看懂。我盯着前面摇摇晃晃的队伍,突然就想通了,哪有那么玄乎。

别翻百科了,用排队讲清楚大模型在算啥

你眼前这条奶茶队,就是大模型算法最好的例子。从第一个客人站过来点单,到你现在站的位置,每一个客人点的每一杯奶茶,加不加冰,放不放糖,加了什么小料,所有这些信息连起来,就是大模型吃进去的训练数据。

大模型算法核心要做的事,说穿了就是一句话:猜下一个人会点什么。是不是很简单?放在生成内容的场景里,就是你输入“帮我写一封给老板的请假条”,前面所有的字都是已经排好队的客人,大模型要做的,就是顺着你给的这句话,猜下一个字放什么最合理,一个接一个猜,就攒出来一整段话。

之前的小模型,记性差,只能记住你队伍里最后三四个人点了啥,前面的全忘了,所以猜出来的下一个单经常歪到姥姥家。大模型不一样,它记性好,能记住从队伍第一个人到最后一个人所有的点单信息,还能悄悄摸出来规律:比如周末下午,排在三个穿JK的小姑娘后面,很大概率会点冰的、加奶盖,还会凑个买一送一。这些规律不是谁写进去的,是它自己盯着排了几亿人的队伍,自己摸出来的。

奶茶店排队顺序大模型预测示意图
奶茶店排队顺序大模型预测示意图

说实话,我最早看技术论文的时候,也被Transformer、注意力机制这些名词吓得够呛,后来才反应过来,所谓的注意力机制,说白了就是让大模型排队的时候,别去管前面八百年前那个点热可可的老头,多看看你前面三个穿JK的小姑娘,这就是注意力啊。哪有那么多玄乎的东西。

你踩过的认知误区,我帮你捋捋

网上讲大模型的多,传谣的更多,我见过最多的两个误区,今天拆开说。

第一个,大模型算法就是堆参数、拼钱烧出来的,对不对?不对。参数是什么?参数就相当于你奶茶店的柜台格子,格子多当然能放更多料,但你格子摆了一千个,里面全放过期的珍珠,有用吗?前两年整个行业都在疯狂堆参数,仿佛参数越多模型越厉害,这两年风向转了,大家都开始在算法上下功夫,怎么让更少的参数,记住更有用的规律,怎么让模型跑起来更快,耗电更少。现在不少只有几亿参数的小模型,做特定任务的时候,效果不比几千亿参数的差,核心就是算法调得巧。

第二个误区,大模型什么都懂,算法已经能帮人类解决所有问题了,对不对?更不对。我上周让大模型帮我查一下南京南站到苏州站最晚一班高铁是几点,它给我编了一个23点15分的车次,我去12306查,根本没有。你骂它骗人吗?没必要,因为它的算法本来就不是为了说真话设计的,它的目标就是把字拼得顺理成章,听起来像那么回事,它不会管自己说的对不对。它是猜下一个字,不是查百科全书。搞不懂这一点,你就永远搞不懂大模型算法到底是什么。

大模型生成内容对错校验流程图
大模型生成内容对错校验流程图

不过话说回来,现在也有很多算法在改这个问题,比如给大模型加检索环节,猜下一个字之前先去正经数据库查一遍信息,这样正确率能高很多,但本质上还是在补原来算法设计的漏洞,不是推翻重来。

大模型算法接下来会往哪走

大模型算法接下来会往哪走
大模型算法接下来会往哪走

现在整个行业都在往两个方向卷,第一个是往小了做。原来大模型只能跑在几千张显卡的云端机房里,你要用必须联网传数据,不仅慢,还不安全。现在新的算法能把大模型剪得很小,小到能直接装在你手机里,不用联网就能用,你的聊天记录、隐私数据根本不用出你的手机,这对很多普通人来说,其实比一个超大参数的云端模型有用多了。

第二个方向是往准了做。就是刚才说的,解决大模型一本正经胡说八道的问题,改算法的目标,让它不仅能把话说顺,还能把话说对。我前阵子碰见过一个做算法的朋友,他说他们现在做的一个算法,能让大模型生成内容的时候,每说三句话就自己检查一遍对不对,不对就重新说,现在正确率能提到九成以上,听起来就很靠谱。

但我也见过不少歪路。有次在一个行业沙龙,一个小伙子上台讲他的新算法,说能把大模型的推理速度提30%,参数利用率提15%,台下一堆人鼓掌。我散场的时候问他,你提了这么多性能,普通人用你的模型,能得到什么不一样的好体验?他愣了半天,说我就是做算法优化的,体验那边产品经理管,我不知道。你说这事逗不逗。

大模型算法说到底,不就是个给人用的工具吗?和你家切菜的刀,泡奶茶的雪克杯没区别。刀磨得快是好事,可你磨了半天刀,磨完了放在柜子里落灰,忘了你本来是要切菜,这不是瞎耽误功夫吗?

现在很多人吹大模型要替代程序员,替代作家,替代这个替代那个,说大模型算法已经接近奇点了,我每次听见都想笑。奇点在哪呢?连说真话这个最基本的需求都还没解决好,离能替代人还差得远呢。

昨天我终于排到我,拿了奶茶,和店员聊天,她说他们店里现在用大模型推荐小料,客人点完单,屏幕上会弹出一句“您可能还想要加一份芋圆”,一天能多卖五六十份,每个月多赚小一万。你看,这才是大模型算法最好的归宿啊。

不用吹得玄乎其玄,不用动辄改变人类文明,能帮奶茶店多卖几份小料,能帮上班族多省十分钟写请假条的时间,能帮学生多理清楚一道题的解题思路,就已经很有用了。对吧?

作者|科技

排版|科技

审核|见微

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:奶茶店排队时,我搞懂了大模型算法到底在干什么
文章链接:https://www.lfdjt.com/p/keji/a/6860.html