为什么你的手机越用越烫,根子在架构上
现在绝大多数计算机,跑的都是冯诺依曼架构,核心就是一句话:存储和计算分开干活。你要算一个东西,得先把数据从存储器里调去计算单元,算完了再送回去。
就好比你在家包饺子,每包一个饺子,都要从阳台储藏室拿一块面粉,用完再放回去,一趟又一趟跑,腿都能断,还费时间。

现在AI跑大模型,一次要调动上亿次数据,来回跑的过程中,百分之八九十的能耗都耗在数据传输上了,根本不是用在计算本身。不发烫才怪。
说实话,现在这个瓶颈已经卡得很死了。摩尔定律快走到头,就算你把晶体管做得再小,也赶不上AI参数膨胀的速度,更解决不了能耗的问题。总得换个思路。
这个思路,就是类脑计算。
类脑计算到底是个啥,说人话就是模仿大脑干活
别听那些自媒体吹什么“人造大脑”“意识上传”,扯远了。现在我们说的类脑计算,核心就是学咱们人类大脑的干活方式,解决现在AI的能耗问题。
咱们人脑是什么样?八百亿个神经元,互相之间靠突触连接,只有刺激到了一定阈值,神经元才会发出一次脉冲信号,传递信息,没事就躺着不干,根本不费电。识别一张猫的图片,不到一百毫秒就搞定,整个过程耗能才几瓦,比你手机开个手电筒都省。
类脑计算就是把这套逻辑搬到芯片上。把计算和存储都做在“神经元”单元里,不用来回跑数据,只有触发了脉冲才会工作,不像现在的GPU,不管有事没事都在满负荷跑,自然省电太多。

很多人有误区,觉得类脑计算就是要取代现在的AI,不对。它其实是给AI换了个更高效的底层硬件,原来你跑一个大模型要一千度电,换类脑可能只要一度,就这么简单。
去年9月我在南京的一个高校实验室看过一个demo,一块名片大小的类脑芯片,跑实时动态目标识别,整个芯片的功耗才不到2毫瓦——啥概念?一颗普通的纽扣电池,就能让它连续跑一个月。放在野外的监控摄像头里,一年不用换电池都能干活。
惊到我了。原来还能这么玩。
离我们日常用,还有多远?

其实现在已经有小范围的应用了。比如一些低功耗的物联网传感器,智能耳机的语音唤醒,已经用上了简单的类脑方案。只是你没感觉到而已。
不过话说回来,要让类脑计算跑现在我们用的这种大模型,还有很长的路要走。现在整个AI的开发生态,都是基于原来的冯诺依曼架构建的,算法、训练、部署,一套流程走了几十年,要全部迁移到新架构上,哪是一朝一夕的事。
现在最大的痛点,就是怎么把已经训练好的大模型,高效地转换成类脑架构能跑的脉冲模型,精度掉得少,能耗还能下来,这个问题好多团队还在啃。
但是你不得不承认,这方向走对了。现在OpenAI开一次ChatGPT会话,平均耗的电够一个普通用户刷三小时短视频,全世界几亿人天天用,再过五年,数据中心的总耗电量能占到全球发电量的多少?这个账谁都算得过来。总不能为了跑AI,把全世界都变成火力发电厂吧?
再过三五年,我们最先能感受到的变化,应该就是手机里的端侧AI了。现在的手机AI大模型,为了省电,大多还是把数据传到云端算,未来用类脑芯片,直接在你手机本地就能跑,不用传数据,既不会发烫掉电,还不会把你的聊天记录、隐私偏好传到别人的服务器里,这不就是我们想要的吗?
说实话,我不期待什么类脑计算带来奇点,那太远了。我就期待哪天我拿着手机开一下午AI画图,后背还是凉的,电量还能剩一半,就够了。
这条路不好走,但是总得有人走对吧?毕竟原来的路,已经快走到头了。
作者|科技
排版|科技
审核|见微