大模型时代分词不是算法问题,是利益问题

大模型输入法的分词官司,撕开了行业遮羞布

2026年开春,一桩没怎么上热搜但圈内炸锅的官司,打得挺有意思。头部输入法厂商某狗,被头部搜索公司某度告了。

案由说出来挺有意思,不正当竞争。核心矛盾点,就是分词。

某狗输入法上线了大模型原生的输入预测,分词粒度调得极细,用户刚输完半个关键词,输入法直接把某度搜索的核心结果拆成片段,直接显示在输入候选框里。用户根本不用跳转到某度的搜索页,事儿就办完了。

说实话,换谁谁不急。某度靠搜索广告赚了这么多年,用户不点进搜索页,哪来的广告曝光?

圈里之前没人把分词当回事。不就是把一句话拆成几个词吗?大模型都出来这么久了,分词不就是大模型随便就能搞定的前置小功能?

错了。分词从来不是纯技术问题。这次官司,直接把藏在水面下的东西扯出来了。

2026年国内大模型输入法分词准确率测试对比表
2026年国内大模型输入法分词准确率测试对比表

我上周跟一个搜索引擎的老算法朋友吃饭,他吐槽说,现在大模型公司为了抢用户,什么规则都敢改。原来分词粒度是行业默认的潜规则,大家各吃各的,你做你的输入法,我做我的搜索,现在好了,直接把刀伸进锅里了。

你以为用户输的是一串字符,其实背后是各家公司靠分词切出来的利益蛋糕。一刀下去,切错了地方,就切到别人的蛋糕上了。

分词粒度的背后,是流量分配的暗战

很多人不知道,中文分词是整个中文互联网最基础的基建,也是最早卡脖子的领域之一。早在上世纪九十年代,百度刚成立的时候,李彦宏第一个砸钱做的不是搜索排序,是中文分词。

那时候国内没什么公开的标注语料,百度找了几百个人,一个个词标,标了二十年,累计标注的中文分词语料超过300亿汉字,相当于整整1.5万本120回全本《红楼梦》的总字数。这些语料不是放着看的,是调分词粒度的核心资产。

中文分词技术四十年演化时间线图
中文分词技术四十年演化时间线图

分词规则本身就是流量护城河。举个例子,用户搜”苹果手机充电器”,你分成”苹果/手机/充电器”,出来的结果是苹果品牌、手机、充电器三个大类,广告会分给三个不同赛道的商家。如果你分成”苹果手机/充电器”,结果就直接指向苹果手机的原装充电器,广告能直接卖给苹果官方配件经销商,出价能翻三倍。

说白了,分词就是切蛋糕的刀。刀怎么下,决定了钱怎么分。

不过话说回来,大模型出来之后,分词这条路确实走得越来越有意思。现在端侧大模型内置的分词模型,参数量比2016年谷歌公开的中文分词模型大8倍,但通用场景下的分词准确率只提升了2.7个百分点。投入和产出完全不成正比。

这个事儿就像生物进化里的生态位分化,通用大模型把通用分词的活儿抢了,原来做通用分词的创业公司卷不动,要么死要么转型,反而垂直领域长出了新的机会。深圳有一家做医疗AI的创业公司,就靠打磨临床病历的专业分词,去年营收做到了两个多亿,根本不缺订单。因为通用大模型的分词根本分不清”左侧枕叶脑梗塞”和”右侧枕叶脑梗塞”的区别,错一个字,诊断全错,必须要专业的分词模型。

很多人说分词是老技术,没什么好做的。其实,老技术才藏着新的利益博弈。字节跳动做搜索那几年,最大的投入不是做排序模型,是重新调分词粒度,硬生生从百度的蛋糕里切下来一块,靠的就是把分词磨得更符合内容生态的流量逻辑。

分词悄悄变天,普通玩家没察觉

分词悄悄变天,普通玩家没察觉
分词悄悄变天,普通玩家没察觉

你可能会说,分词都是大公司的事儿,跟我一个普通从业者有什么关系?

大错特错。分词的每一次规则变化,最先被影响的就是最普通的玩家。

做SEO的朋友应该早就感觉到了,原来那套堆关键词的玩法,现在完全没用了。原来你在标题里塞五个”北京美甲”,搜索引擎分词就能识别到你是做北京美甲的,给你排名。现在大模型分词,直接能读出来你是故意堆词,语义不对,直接把你排在一百名之外,根本没人能搜到。

做短视频内容的也一样。原来标题带关键词就能蹭流量,现在平台的内容推荐靠大模型分词,你标题蹭了”AI绘画”,结果内容全是讲带货的,分词一读就知道你文不对题,直接不给推流。连汤都喝不到。

我见过不少做垂直AI创业的朋友,一开口就是我这个大模型参数有千亿,训练用了多少数据,一问他们垂直领域的分词调了吗,大多是拿开源的通用分词直接用。结果产品一上线,用户问个专业问题,分词拆错了,回答全错,用户用脚投票,直接走人。

说白了,大部分人都盯着上层的大模型拼参数,拼故事,没人愿意蹲下来磨最基础的分词。但恰恰是这个最基础的东西,决定了你能不能留住用户,能不能赚到钱。

原来互联网圈说”基础不牢,地动山摇”,放到现在,分词就是那个最基础的”基础”。

再过三年,会不会所有拿到融资的大模型公司,都把分词规则列为最高商业机密,绝不对外泄露半个字?

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:大模型时代分词不是算法问题,是利益问题
文章链接:https://www.lfdjt.com/info_23_16870.html