2026-10-02 07:16:15 作者：大讲堂
端侧大模型卷出来的意外反转
去年跟某字节做端侧推理的老朋友喝酒，他吐了一肚子苦水。团队花了一年半，全用Rust重写了一遍7B模型的推理框架，上线测了三周，上周刚通知核心模块切回C++。
这事不是个例。今年上半年我接触国内五家头部大模型厂商，三家都有类似的调整，原来喊着”Rust替换C++”的口号，现在都悄悄收起来了。
2026中国端侧大模型推理框架编程语言占比统计图
现在端侧AI卷到什么程度？什么功能都要往手机、车机里塞，但是端侧的算力和功耗，就是钉死的天花板，一毫瓦都抠不出来。某头部厂商的内部测试数据我看过，相同架构、相同优化程度下，C++版本的推理时延比Rust低12%，内存占用少8%。开发效率确实低一点，也就低14%左右，分摊到整个产品周期里，这点效率差距，跟能跑起来7B模型这件事比，根本不值一提。
12%的时延，就是千元机能不能跑得动AI大模型，能不能抢到千元AI手机市场的生死线。好多人十年前就说C++老了，该进博物馆了，怎么AI时代反而活的更滋润了？
存量市场里的绑定博弈
很多人聊编程语言，张嘴就是技术优劣，从来不说商业逻辑。其实C++能活到今天，从来不是因为它是完美的语言，是因为它已经把根扎进了所有不能随便推翻重来的行业里，动它的成本高到没人愿意动。
我之前去广州拜访中望软件的核心研发负责人，他给我看了一组内部数据，公司核心的二维CAD内核，五百二十万行代码，92%都是C++写的，最早的代码可以追溯到1998年。重构一遍全换Rust，要多少成本？他伸出两个手指头，两个亿，至少两年工期。
这两个亿是什么概念？相当于给公司整个一百五十人的核心研发团队，涨整整一年工资，还能剩三千多万出来连办三年顶级年会。性能提升能有多少？不到7%。你是老板你会换吗？
中国本土工业软件核心代码C++占比柱状图
这就像一战时期的堑壕战，你花了十几年挖通了战壕，架好了火力点，整个防御体系早就跑通磨合了，对手就算拿了更新锐的坦克，也未必能啃下这块阵地。除非你自己脑子抽了，主动放弃阵地挪窝。
中国本土的产业环境，其实特别适合C++生存。我们做工业软件，做EDA，做自动驾驶，做芯片设计，都是起步晚，攒一点代码不容易，每一行都是真金白银砸出来的，没人跟欧美互联网公司一样，没事就重构一遍炫技术。说白了，换语言的收益远远覆盖不了成本，傻子才动。
不过话说回来，C++这些年也没躺着吃老本。C++11之后每年更，智能指针解决了大半内存野指针问题，C++20的模块也解决了编译慢的老毛病，现在的C++早就不是十年前那个满地坑的C++了。好多人黑C++，黑的还是十年前的老黄历，根本没跟进过新特性。
那些喊着干掉C++的新语言，其实都没踩到点子上，你永远打不败一个已经把所有坑都踩过的存量。
普通开发者的隐形红利
普通开发者的隐形红利
回到我们普通从业者身上，这事跟你我有什么关系？
说实话，现在互联网行业卷成什么样，大家都清楚。前端后端产品岗，刚毕业的小孩一抓一大把，起薪压的越来越低，跳个槽都找不到坑。但是C++呢？我前段时间帮朋友的自动驾驶公司招人，开价比同级别普通后端高30%，面了三个月，才招到三个能上手改内核的熟手。
大部分科班出身的开发者，上学的时候就没好好啃C++，毕业又觉得难、太苦、出活慢，转头去卷门槛低的岗了，等于把这块红利白白让出去了。现在中国要补底层技术的短板，工业软件要自主，EDA要突破，端侧大模型要落地，自动驾驶要量产，哪一样离得开C++？几十万的缺口摆在这里，就是没人填。
很多人说，难的话谁愿意学啊？那不难的活，轮得到你赚高薪吗？所有不卷的高薪岗位，本质上都是靠门槛拦着，C++就是那个门槛最高，也最没多少人抢的门槛。你说你学了C++找不到工作？那是你没找对地方，那些做底层的硬科技公司，都在挖人挖的头秃。
真的，骗你干嘛。我见过好多刚毕业的小朋友，被网上的流量言论忽悠，说C++已经死了，赶紧学热门新语言，结果学了一堆花里胡哨的，出来抢那几个挤破头的岗，卷不动了才后悔，当初怎么没花点时间啃啃C++。
未来十年，能卡中国底层技术脖子的，从来不是进口设备，也不是高端芯片，是愿意蹲在千万行C++代码堆里磨十年的年轻人。
免责声明：市场有风险，选择需谨慎！此文仅供参考，不作买卖依据。如有侵权请联系删除。
文章名称：C++不是淘汰技术，是内卷护城河
文章链接：https://www.lfdjt.com/info_23_23570.html
大讲堂