巷口奶茶店的账单,藏着你不知道的算力秘密

上周六在南京新街口巷口买奶茶,排队排到脚酸,好不容易扫码点单,输完密码等着跳支付成功页,卡了三秒。 身后的中学生啧了一声,说什么破网。 我盯着那个转圈圈的加载图标发呆。你说,这三秒里,到底有多少东西在跑?

没人告诉你,算力早就钻到缝隙里了

大部分人提起算力,第一反应就是一排排闪着指示灯的服务器机房,或是新闻里说的国家级超算中心,和自己的日常生活没什么关系。

错得离谱。

刚才说的这三秒加载,背后从验证你的支付账户、核对会员优惠券折扣、算门店当前库存、排单给后厨出餐,再同步数据给品牌总部的营收系统,每一步都要靠算力撑着。少了哪怕一点点,这个页面就出不来。

连锁奶茶店后台点单算力调度示意图
连锁奶茶店后台点单算力调度示意图

你早上摸出手机刷短视频,算法一秒推出来你爱刷的养猫日常,那不是编辑团队拍胸脯选的,是算力从上亿条内容里,按着你的浏览习惯算出来塞给你的。你家入户门的人脸识别锁,开门那一秒的人脸比对,靠的也是算力。甚至你晚上用外卖软件点烧烤,系统给你算哪条路线骑手送得最快,那也是算力算出来的。

说实话,现在的算力,和一百年前普及的电力没区别。没人会天天把“我今天用了多少电”挂在嘴边,停个十分钟你就知道它有多重要。算力现在就是这个状态,藏在所有你看不见的缝隙里,托着你每天的日常。

别被PPT骗了,算力不是越堆越多就越好

这两年大模型火了,到处都在说抢算力,各种PPT里全是“我们有多少T算力”“我们建了多大的算力中心”,看得人眼花缭乱,仿佛谁的架子搭得大,谁的算力就厉害。

真不是这么回事。

我认识一个做企业服务的朋友,说之前碰见过一个客户,创业初期一口气买了四十台高端服务器,说是要撑未来三年的业务增长,结果做了一年,业务规模才到预期的五分之一,四十台服务器常年只用了不到两成,剩下的不仅占地方,每个月空调电费就要交出去小十万,老板天天看着服务器心疼,想转卖又找不到接盘侠。

这不是个例。现在很多地方建算力中心,都在堆硬件拼规模,实际上大部分闲置率高得吓人。白天业务高峰的时候不够用,半夜没业务了上千台服务器空转,电哗哗浪费,这就是资源错配。

跨场景算力错峰调度逻辑示意图
跨场景算力错峰调度逻辑示意图

现在业内说的算力调度,本质上就是解决这个问题:把互联网公司半夜闲置的算力,腾出来给需要算力的科研团队做计算;把南方没那么忙的机房算力,调给正在搞大模型训练的北方创业公司;错峰用,比大家都各自堆一堆硬件省钱多了。

很多人被宣传洗了脑,觉得算力就是越多的芯片越多的服务器越好,其实真正有用的算力,是能及时用上的算力,你堆一万台服务器放在那落灰,那叫废铁,不叫算力。

接下来要抢的,不是大算力,是算力碎片

接下来要抢的,不是大算力,是算力碎片
接下来要抢的,不是大算力,是算力碎片

现在圈里聊天,十句有八句说算力不够,GPU都被大公司抢光了,小创业公司根本拿不到货。这话没错,但也不全对。

你有没有想过,你我身边到处都是没被用起来的算力碎片?你办公室的台式机,下班之后关机,一天八个小时以上是闲着的;你家里的游戏本,除了周末打打游戏,平时大部分时候也就开个微信网页,性能用到不到10%;甚至很多公司的办公服务器,白天也就用个一半,晚上直接空载。这些散在各处的计算能力,本来都是浪费的,现在慢慢有人开始把它们攒起来用了。

早年就有天文项目,动员全球的天文爱好者把自己电脑的闲置算力贡献出来,拆分星云观测数据给大家算,拼起来就是一个不输中型超算的计算能力,花的钱才多少?零头都不到。现在这个思路已经用到更多地方了,一些不需要极低延迟的计算任务,比如AI模型训练的前期数据处理、蛋白质结构预测、气候模型模拟,都可以拆成小块,分给这些散在各处的闲置算力去算,算完汇总就行,成本比租整架服务器便宜太多。

不过话说回来,也不是所有任务都能用算力碎片。你自动驾驶汽车在路上跑,需要实时算路况,那肯定得用自己车上的本地算力,不可能等远程的碎片算力算完给你发结果,那早就撞上去了。但对于很多中小创业团队、科研项目来说,他们不需要马上出结果,对延迟不敏感,能用便宜的碎片算力解决问题,为什么要花大价钱去买全新的GPU?

我之前听一个创业团队的创始人说,他们做一个生物医药的项目,本来预算要花几十万租算力,后来用拼接的算力碎片,最后花了不到三万就做完了,给团队多留了好几个月的烧钱时间,这不就是救命的事吗?

现在所有人都盯着大基地、大芯片、大模型,都在抢整块的大算力,价格炒得一天一个样,反而没人注意这些散在各个角落的碎片,把这些碎片用起来,不仅能省很多钱,还能给很多没那么多钱的小团队留活路。

我昨天又去那家奶茶店了,点单的时候一点没卡,一秒就出了支付页面。拿到奶茶我站在巷口吹风,看着人来人往,没人抬头想过刚才那一秒跑过了多少计算。

本来就是这样。所有好用的基础设施,都该是藏在背后的。你看不见它,才说明它真的好用。

作者|科技

排版|科技

审核|安然

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:巷口奶茶店的账单,藏着你不知道的算力秘密
文章链接:https://www.lfdjt.com/p/keji/a/5586.html