GPT的终局不是技术碾压,是单token的电费账

2026年春,那个把免费GPT通道关掉的杭州厂商

2026年4月我去杭州跟老同事吃饭,他说之前一起共事过的那家电商SaaS公司,去年砸了3个亿做了个对标GPT-4o的多端应用,给淘宝、拼多多的商家免费开放——能自动生成商品详情页、回客服消息、写直播脚本。上线的时候创始人在发布会上吹得震天响,说要3年拿下1000万商家,结果才11个月,直接把免费通道全关了,所有功能转成按调用量计费。

2026年电商商家后台GPT应用计费弹窗截图
2026年电商商家后台GPT应用计费弹窗截图

我当时问他为啥急着割韭菜,他掏出手机给我看内部的成本表:免费期攒了27万商家,平均每个商家每月的推理成本是187块,算下来每个月光硬件折旧、电费、机房带宽,就要掏5000万——相当于杭州西湖区一个街道办全年的公共服务预算。他喝了口冰啤酒吐槽,说最离谱的是,80%的商家每个月就用这个AI生成3条商品文案,连客服自动回复的开关都没打开过,纯纯薅免费流量。

没人算过这笔账。

整个行业在2025到2026年的前半年,所有人都在拼跑分,拼谁的模型多模态支持4K视频,谁能做3D资产生成,谁的数学题正确率比OpenAI高2个百分点。没人蹲在后台盯着监控面板算,每生成1000字文案,要花多少电费,要摊多少GPU的折旧。

就像2000年互联网泡沫的时候,大家都在拼谁的网站流量高,没人算服务器的带宽费什么时候能赚回来。等到融资的钱烧完了,才发现大部分用户根本不会为你的“先进技术”掏一分钱。

算明白账的玩家,都在偷偷绕开OpenAI的路数

很多人到现在还觉得,GPT的护城河是模型的通用能力,是OpenAI攒的那几个PB的训练数据。其实根本不是。2025年下半年开始,我跟国内几个头部大模型团队聊,发现大家早就不往“通用大模型刷榜”这个方向砸大钱了。

比如阿里通义的团队,当时把80%的研发人力从全量通用模型的训练,转到了推理侧的模型分层调度——说白了就是把原来那个上千亿参数的大模型,拆成一堆从1B到70B不等的小模型,根据用户的调用场景自动匹配:如果用户只是要写个外卖好评回复,就调用最小的1B参数模型,根本不需要动那个上千亿的大模型;如果用户是要做工业设计的仿真模拟,才会调用最大的那个模型。

通义千问推理侧模型路由调度架构示意图
通义千问推理侧模型路由调度架构示意图

他们给我看的内部测试数据是,做了这套分层调度之后,单token的推理成本比OpenAI最新的GPT-4o低了72%——每处理100万token的成本是0.012美元,比之前用全量大模型的时候,成本直接降了10倍,相当于同路程下,开电动重卡比开柴油重卡的能耗成本差。

我一直觉得现在的大模型竞争,根本不是什么科幻电影里AI统治世界的剧本,更像上世纪90年代的远洋渔业竞赛。一开始大家都开着万吨级的大拖网渔船,往最深的海沟里冲,想捞最稀有的金枪鱼——就是跑分最高、能力最全的通用大模型。结果捞了几年发现,海沟里的鱼越来越少,油费越来越贵,反而是那些开着小快艇,沿着海岸线捡鲅鱼、捞皮皮虾的船,早就赚得盆满钵满了。

OpenAI现在就像那个开着最大拖网船的船长,还在往深海里冲,根本没回头算油费。而国内的玩家早就换了思路:我不跟你比谁的船大,我就盯着岸边的小生意,用最低的成本把钱赚了。2026年第一季度的企业服务市场数据显示,OpenAI在国内的市场份额已经掉到3%了,不是我们的模型能力比它强,是我们的服务成本是它的1/3,客户用脚投票,根本不会为那点感知不到的能力差多掏三倍的钱。

被卷到的,从来不是大家以为的那群人

这两年很多人都在说,GPT会替代程序员,替代文案,替代设计师。结果我观察了快两年,发现最先被卷到的,根本不是这些一线的内容生产者。

反而是之前挤在大模型产业链上的那群“配套服务商”。

比如2024年的时候,一个针对通用场景的模型微调项目,外包公司的报价是200万起,周期3个月。到2026年,因为大家都在用分层的小模型,根本不需要全量微调,只要把场景数据塞到小模型里做个简单的LoRA适配,报价直接掉到2万,差了100倍。之前靠接微调项目赚得盆满钵满的外包公司,现在大半都倒闭了。

还有之前做训练数据标注的公司,2024年的时候,大家的活都是给通用大模型标全领域的文本,不管是学术论文还是网络段子,只要是文字就标,一个标注员一个月能拿6000块。到2026年,活变了,大家要标更细分的垂直场景数据:比如给餐饮商家标外卖回复的话术,给装修公司标跟客户沟通的禁忌词,给电商商家标差评的回复模板——单价直接掉了一半,很多标注团队都转到县城去了,因为城里的人力成本算下来根本赚不到钱。

我去年见了个之前在头部大模型公司做算法的小伙子,2025年的时候年薪120万,主要工作就是给通用大模型调参数刷榜,2026年年初被优化了。一开始他还想着找个同等薪资的岗位,投了三个月简历才发现,现在所有公司招算法岗,根本不招那些会堆参数、刷榜的人了。公司要的是能帮着把推理成本再降10%的人——你要是能做到,年薪给你开到200万,要是只会照着论文复现模型刷分,对不起,现在没人要。他当时跟我吐槽,说之前进公司的时候,HR说这是未来十年的黄金赛道,结果才待了一年,赛道直接被卷成了土路。

上周跟一个做二手服务器生意的朋友聊,他说现在英伟达的H100芯片,已经从2023年的每颗4万美金,掉到2026年的每颗8000美金了。不是芯片产能过剩,是之前那些砸了几百亿、追着GPT跑分跑的厂商,现在都在把手里的闲置卡往外甩。

那问题来了——

那些当初拍着胸脯说要做中国版OpenAI的公司,现在仓库里堆的几万张卡,最后要拿去干啥?

作者|大讲堂

排版|大讲堂

审核|安然

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:GPT的终局不是技术碾压,是单token的电费账
文章链接:https://www.lfdjt.com/info_23_25646.html