昨晚刷到那条南京老巷的桂花糕短视频的时候,我正窝在沙发上啃鸭脖。视频卡了两秒,转了个小圈才加载出来。
第一反应是我家wifi又抽风。
后来跟做算法的朋友唠才知道,哪是wifi的问题啊——是后台的算力在排队。
很多人对算力的印象,还停留在新闻里那种建在大山里、整墙亮着指示灯的超级计算机,觉得那是跟自己八竿子打不着的东西。真的不是。
你以为是手机卡,其实是算力在排队
上周在老门东帮朋友拍糖粥藕的特写,想直接用手机端的AI功能,把背景里乱入的举着奶茶的游客P掉。点下按钮的瞬间,屏幕转了三秒的圈。
当时我还吐槽,这新换的旗舰机怎么连个修图都卡。
做技术的朋友在旁边笑,说你真当这功能是你手机里那点芯片就能扛下来的?本地那点计算能力,最多能给你磨个皮,要把动态背景里的人精准抠掉不影响粥上的桂花碎,得把画面传到远端的算力池里算。

你看,根本不需要什么宏大的叙事。你导航的时候,系统帮你算哪条路不堵;你发朋友圈的时候,系统帮你把照片里的逆光调亮;你跟智能音箱说”帮我放一首周杰伦的晴天”,系统从百万首歌单里精准挑出你要的版本——所有这些事,都是算力在干活。
别拿教科书上的定义套。说白了,算力就是”把零散的数字,转成你能看懂的内容的总工作量”。没有什么玄乎的。
真的不玄。
很多人被网上的概念绕晕,觉得算力是要靠水冷、要建在高海拔地区的大机柜才能支撑的高端玩意儿,但其实你家路由器半夜自动升级固件的时候,都在悄悄耗一点算力配额。
被吹上天的算力,其实有一半在做无用功
上个月去江北的一个产业园调研,刚进机房门我就打了个寒颤。整墙的服务器指示灯闪得像新街口的霓虹夜景,冷风吹得我鼻子都红了。
我拽着运维的小哥问,这么多机器,都在跑什么业务啊?
他挠挠头,说实际利用率啊,也就三成多吧。
我当时都愣了。
这哪是算力中心啊,这是堆在冷柜里的一堆过期速冻饺子。花大价钱买的机器,拉了专线接了电,大半时间都在空转,连个实际的计算任务都没有。

我上次听一个创业公司的老板在酒桌上吹,说自己拿了多少多少百万级的算力配额,将来要做自己的大模型。凑过去一问,他的业务就是给本地餐饮商家做个带优惠券推送的小程序。
那点需求,用他办公室那台旧办公电脑都能扛下来,至于租那么贵的云端算力吗?
纯纯的冤大头行为。
说实话,现在大家对算力的误解真的太深了。总觉得算力越多越好,就像家里买冰箱,容量越大越有面子。可你要是买个双开门的大冰箱,里面天天空着,除了多交电费,有啥用?
我那个做运维的朋友跟我吐槽,说最头疼的就是半夜接告警电话,说某台服务器空转了三个小时,查半天才发现是之前的测试任务忘了关,白白耗了几十度电,连个水花都没有。
想想都心疼。
未来的算力,不会都堆在远离城市的山里
早些年大家建算力中心,总爱往凉快、电费便宜的地方跑。贵州的山洞里,内蒙的草原上,拉上专线建个大机房,靠自然水冷降温,能省不少钱。
但慢慢的,这套逻辑不好使了。
你想想,要是你在新街口的路口想用AR导航,看着手机屏幕上的箭头跟着你走,要是把计算任务传到千里之外的贵州机房,等算完结果传回来,你都已经走过两个路口了。反应慢半拍,再好的技术也没用。
所以现在的算力早就不是一锅端的大集群了,是分层的。
离你最近的,是你手机、手表里的小芯片,算最急的事:刷脸解锁、实时美颜、计步,这些任务根本不需要往外传,本地一秒就能算完。
再近一点的,是装在城市灯杆上、路口摄像头里的边缘计算盒子,算那些需要快速反应的事:识别路口有没有闯红灯的行人,紫金山步道上有没有游客崴脚需要帮忙,商圈里的AR导览实时画面,这些事就在本地算,反应快,还不占长途网络的带宽。
最远的,才是那些建在山里、草原上的大集群,算那些不着急的事:大模型的训练,电影的后期渲染,一整个季度的天气预报模拟,这些任务不用实时出结果,哪怕跑几个小时都没关系,放在电费便宜的地方算,最划算。
上周爬紫金山的时候,我特意凑到路边的灯杆旁看了看。那个嵌在灯杆里的小计算盒子,比我家的路由器大不了多少。旁边的运维师傅说,这东西能实时识别步道上的异常情况,比如有人摔倒了,或者野路上有野猪闯进来,不用等摄像头把画面传到几公里外的机房,盒子自己就能判断,直接给景区的巡逻人员发提醒。
这才是好用的算力。
不是那种摆在展厅里、算出来的结果要等半小时才能看到的炫技设备,是你走在路上,甚至感觉不到它存在,但它已经悄悄把你需要的东西递到你眼前的那种服务。
当然也有让人闹心的地方。现在好多地方一窝蜂建算力中心,就像十年前一窝蜂建各种产业园一样,好多地方批了地、拉了电,建完了才发现,根本没有那么多实际的业务需要跑。空着的机房亮着灯,冷风吹着空转的服务器,电费交了不少,算出来的有用结果没几个。
哦对,上次那个做算法的朋友跟我打赌,说再过三年,大家不会再比谁的算力集群建得更大,而是比谁的算力用得更巧。
比如给老人做个语音控制的助行器,根本不需要连到千里之外的大机房,就在助行器的手柄里装个小芯片就能识别语音,反应快,还不费流量。
比如你在家看4K电影,根本不需要把整个片子的数据流都从千里之外传过来,就在你家小区的机房里存着缓存,点开就能看,省带宽还快。
这些事,其实比建多少个几万张卡的大集群,实在多了。
作者|科技
排版|科技
审核|乐乐