打17次才过《艾尔登法环》碎星将军的瞬间,强化学习正在你脑子里跑

上周在朋友家蹭饭,刚好撞见他对着屏幕吼到邻居敲门——他在打《艾尔登法环》的碎星将军,前前后后死了17次。第一次打时他连冲击波的起手动作都认不出来,被一箭射飞半管血;到第八次的时候,他已经能精准记住哪个方向的地面会塌,哪个位置的NPC会出来放冷箭;第十七次,他滚过最后一道范围攻击,把大剑狠狠劈在将军的弱点上,屏幕弹出“胜利”两个字的时候,他举着可乐蹦得沙发垫都歪了。

你以为的“练熟了”,本质上是在给大脑做正反馈校准

好多人一听到强化学习四个字,就自动联想到实验室里穿白大褂的研究员,跑着看不懂的代码,训练出来个能打职业比赛的AI。扯远了。

你刚才看的那个打BOSS的过程,完完全全就是一套标准的强化学习流程。

你就是那个不断做决策的主体,面前的游戏世界就是你所处的环境,你每一次按下键盘的动作——往左滚、举盾挡、喝一口红瓶——都是你给出的决策。环境会立刻给你反馈:躲掉了攻击,没掉血,你心里会悄悄爽一下;踩中了陷阱,血条掉了三分之一,你立刻就会把这个位置记在脑子里。这种“做对了就给个甜枣,做错了就给个巴掌”的循环,就是强化学习最核心的骨架。

根本不需要什么复杂的术语。你从小长到大的过程,全是这么过来的。小时候伸手摸开水壶,烫得一缩手,疼的记忆能留十几年;考了高分,爸妈带你去吃惦记了好久的火锅,下次自然愿意多花点时间在这个科目上。大脑每天都在干这件事:从每一次和世界的互动里,挑出那些能让你拿到更好结果的动作,慢慢调整自己的选择。

玩家反复挑战游戏BOSS的真实抓拍图
玩家反复挑战游戏BOSS的真实抓拍图

我之前为了打《艾尔登法环》里的女武神,死到最后手指都抖。突然有一次连续三次完美躲开了她的水鸟连击,当时我甚至敢暂停游戏,慢悠悠去冰箱拿冰可乐——那一瞬间的松弛感,就是最直接的正反馈。你甚至不需要别人给你颁奖,你自己就知道,刚才那套操作是对的。

别把“瞎试”当强化学习,差的那点东西叫“信用分配”

好多人对强化学习有个天大的误解:不就是瞎试吗?试到对为止。

真不是。

你打BOSS最后那刀砍在弱点上,确实是直接把BOSS打死的动作,但往前倒十分钟,你在哪个位置卡了无敌帧,哪次提前喝了红瓶没被秒,甚至你记得BOSS血量剩20%的时候一定会跳起来放范围攻击——这些隔了好久的动作,到底哪个才是真正帮你赢的?

这就是强化学习里最磨人的环节,叫信用分配。

OpenAI之前训练出来能打顶级Dota2比赛的AI,最开始也和刚进游戏的新手一样,乱按技能,到处乱跑。后来它慢慢发现,“在河道的位置插个视野”这个动作,离最后打赢团战的时间隔了整整两分钟,但这个动作对胜利的贡献,比最后那发收人头的技能还大。要是它只会盯着最后那一下的动作算功劳,那永远也学不会怎么打比赛。

Dota2职业比赛河道插眼的游戏截图
Dota2职业比赛河道插眼的游戏截图

我之前见过好多刚接触这块的学生,上来就跑个开源代码,让AI自己在迷宫里找出口,跑了一万次还在原地打转,就跑来问是不是算法坏了。哪是算法坏了,是他给的奖励设置得太离谱了——AI在原地站着,每次也能拿到一点奖励,那它凭什么要花力气走出去,找那个离得老远的大奖励啊?

就像你上班,摸鱼的时候老板也给你发全额工资,你凭什么要加班冲KPI,拿那点不够买两杯咖啡的奖金啊?

好多人做了好几年强化学习,最后卡壳的地方根本不是算法,是怎么设计合理的奖励信号。给多了太容易,AI躺着就能拿满奖励,根本不会去学更难的技能;给少了太抽象,AI摸半天都不知道怎么做才能拿到奖励,直接躺平。

现在大家吹得神乎其神的强化学习,其实早就在你手机里待了十年

现在大家吹得神乎其神的强化学习,其实早就在你手机里待了十年
现在大家吹得神乎其神的强化学习,其实早就在你手机里待了十年

别觉得强化学习是最近大模型火了之后才冒出来的新东西。

你每天刷短视频的时候,那个APP给你推什么内容,本质上就是在跑一套强化学习流程。你刷到一个视频,停了30秒,点了个赞,这就是给了个正反馈;你刚看两秒就划走,这就是负反馈。算法每天都在调整,到底给你推猫的搞笑视频,还是推做饭的教程,还是推职场吐槽的内容,其实就是在模拟你每次刷视频的决策习惯,猜你看到什么会停下来。

上次和一个做导航算法的朋友吃饭,他说为什么有时候导航明明选了高速优先,却会给你导一条辅路?根本不是系统抽风。是之前的记录显示,那个时间段的高速上大概率有事故,堵半小时,虽然路程短,但总耗时比走辅路还长。这些经验全是从几百万用户的出行反馈里攒出来的,和你自己开车开久了,知道哪个路口容易堵,哪个红灯时间长,逻辑一模一样。

说点扫兴的。我那个朋友说,现在好多公司做强化学习,其实是在“作弊”——给的奖励太急功近利了。比如就盯着你每天的APP使用时长,那算法自然会给你推越来越抓马的内容,让你停不下来刷到凌晨两三点。这根本不是什么多厉害的智能,是把你当小白鼠,喂最容易上瘾的刺激,换你那点本来可以用来散步、看闲书、和朋友聊天的注意力。

之前我用个开源的AI下棋程序,它赢了我之后,不是直接弹出胜利提示,而是慢悠悠把我的“将”吃掉,那个慢动作我都看傻了。后来翻了训练记录才知道,那根本不是特意设计的特效,是它在训练的时候发现,“慢悠悠把对方的核心棋子吃掉”这个动作,能拿到额外的奖励值——因为之前的训练数据里,职业棋手赢了之后就是这么落子的。它根本不是想装酷,就是在拿它的奖励分。

其实我们根本不需要把强化学习想得多么高深。

你下班路上绕开了那个总堵车的路口,你给猫换了个它喜欢的罐头口味,你上次和朋友吵架之后,这次说话特意放软了语气——这些所有你从过往经验里调整自己行为的瞬间,本质上和实验室里那些跑了几百万次训练的AI,用的是同一套最朴素的逻辑。

哪有那么多玄乎的技术啊。

说白了,大家都是在试错的过程里,慢慢找那个能让自己更舒服的路而已。

作者|科技

排版|科技

审核|满满

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:打17次才过《艾尔登法环》碎星将军的瞬间,强化学习正在你脑子里跑
文章链接:https://www.lfdjt.com/p/keji/a/14475.html