大讲堂
上周跟南京河西某自动驾驶公司的算法负责人吃夜宵，冰粉端上来的时候他把手机往桌上一扣，说他们花两百万训的行业大模型，上线三个月就被客户骂得狗血淋头。
为什么？
预训练的参数是够大，公开数据集堆的够多，一到真实路测的场景，连南京下雨天的高架积水倒影都识别错——把反光的路牌当成障碍物急刹，把骑电动车送外卖的师傅当成横穿马路的行人，桩桩件件都是能上新闻的事故。
最后解决问题的不是砸更多钱去堆预训练的算力，是找了三个标注员花两周把本地路采的三千条特殊场景数据做了微调，误识率直接掉了40%。
被混淆的技术边界：微调根本不是“给大模型打补丁”
很多人对微调的认知还停留在“拿小数据集给大模型贴标签”的阶段，觉得这就是个没技术含量的边角料工作。真不是。
你得先把两个概念掰清楚：预训练是把互联网上海量公开文本的“通识记忆”刻进千亿参数里，让模型能跟你聊历史、写代码、算数学题；而微调的核心，是把特定场景下的隐性规则，从模型混乱的通用记忆里精准拧出来，不让它对着具体需求瞎发挥。
现在行业里早就不是几年前追求全参数微调的路子了。之前大家觉得要把模型的所有参数重新训一遍才能达到最好的效果，直到LoRA微调方案普及——冻结原本训练好的大模型主干参数，只在旁边加两个极小的适配矩阵做更新，训练量直接掉了两个数量级，成本从几十万降到几千块，效果还不比全参数训练差多少。
说真的，2023年之前你跟客户报方案，说自己用LoRA做微调，对方大概率会觉得你偷工减料。到2024年你再拿全参数微调的方案去谈预算，人家转头就去找能做轻量化适配的团队了——谁愿意为了改个代码生成的风格、调个政务答复的口径，花几十万把几个G的模型参数全重训一遍？
但这里的技术边界得说透，不然很容易吹过头。微调能做的，从来都是把模型本来就有的知识从“泛泛而谈”拧成“精准输出”。比如你拿一个通用大模型去写医保报销规则，它可能会把门诊和住院的条款混着说，毕竟预训练的时候网上的文本本来就是杂乱无章的；你拿过去三年南京本地的医保政策文件做微调，它输出的内容就不会再张冠李戴。但你要是指望靠微调，让模型学会训练集里根本没出现过的、2025年刚出台的新报销规则，那它还是会一本正经地编瞎话。
这就是最核心的边界：微调不创造新知识，只重组和校准模型已有的知识。
产业落地的真实现状：谁在靠微调赚钱，谁在交智商税
现在整个大模型落地的链条上，真正拿到稳定订单的，根本不是那些天天开发布会吹自己有多大算力集群、多大参数规模的公司，反而是一批之前做数据标注、做行业知识库的小团队。
我认识的一个南京本地团队，之前是做政务文档数字化的，现在给各个区的街道做12345热线的问答微调模型。原来的通用大模型接群众来电，能把居民问的“小区楼下油烟管道堵了找哪个部门”答成“建议您联系生态环境部门”，实际上按照南京本地的属地管理规则，这种问题第一时间是派给社区物业的专员跟进。他们把过去两年南京所有12345的派单记录整理出来，做了小样本的微调，现在热线的自动答复准确率能到85%以上，一个区的项目一年就能收大几十万。
当然，交智商税的人也不少。
现在很多公司打着“行业专属大模型”的旗号，给客户报几百万的预算，说要做全栈式的预训练+微调，实际上呢？就是拿个开源的70B参数的基础模型，找了几百条网上公开的行业文档丢进去跑了一遍LoRA，就敢说自己是深度定制的专属模型。更夸张的是，有些连数据清洗都没做，把网上抄来的行业报告直接喂进去，最后模型输出的内容全是正确的废话——你问它怎么判断制造业的供应链风险，它能给你列出来一堆“要重视供应链韧性、要建立风险预警机制”的空话，半点儿实际的判断标准都没有。
上个月去某个园区的AI展，碰到个做制造业微调的团队，我问他们给客户做的模型，训练数据里有没有包含客户自己的生产流程记录，对方支支吾吾半天，说“我们用的是公开的行业数据集，效果也很好的”。
拉倒吧。
公开的数据集能知道你家工厂的机床上次换刀是啥时候？能知道你家的核心供应商最近三个月的交付延迟率是多少？这种微调出来的模型，跟拿个百度百科改改内容有啥区别？
被忽略的风险：微调不是万能膏药，踩坑的人已经排队了
很多人把微调当成解决所有大模型落地问题的万能膏药，却没注意到这个环节藏着的风险，其实比预训练阶段大得多。
第一个最直接的风险，就是数据泄露。微调的时候你需要把客户自己的内部数据喂给模型做训练，对吧？比如你拿公司的核心财务数据、客户的隐私信息去做微调，要是整个流程的安全管控没做好，这些数据很可能就被模型“记下来”了。之前有公开的测试，只要微调的时候用了包含个人隐私的文本，后续不管你怎么删掉原始的训练数据，模型都能通过特定的提问把这些隐私信息套出来。
第二个容易被忽略的风险，就是模型的“知识固化”。很多团队做微调的时候，根本不做数据的质量校验，把一堆过时的、错误的行业数据丢进去，模型就会把这些错误的内容当成正确的规则牢牢记下来。比如之前有个做医疗微调的团队，把网上一堆过时的、甚至是民营医院编的虚假医疗科普文章喂进去做微调，最后模型给用户推荐的治疗方案，连最新的临床指南都对不上，差点出医疗事故。
说实话，现在很多做微调的团队，连最基本的数据去重、错误内容过滤都没做，就敢把模型往生产环境里放。这跟把没经过消毒的针管直接给病人用有啥区别？
未来3-5年的判断：微调会从“技术手段”变成“行业基础设施”
我不觉得微调会一直是个需要专业算法团队才能做的技术活。接下来3-5年，这个领域的变化会比大家想象的快得多。
首先，专门做通用预训练大模型的公司会越来越少，最终能在这个赛道站稳的可能就那么三四家，剩下的绝大多数技术投入，都会转到微调的工具链上。比如怎么自动识别什么样的数据适合做微调，怎么用更少的样本达到更好的微调效果，怎么把微调的成本降到原来的十分之一。现在已经有团队在做自动化微调平台了，你把自己的文档上传上去，平台自动帮你做数据清洗、参数适配、效果校验，根本不需要你自己养一个几十人的算法团队。
其次，微调的准入门槛会快速降低。现在你要做个效果不错的微调模型，可能还得找几个懂算法的工程师，再过两年，可能就跟你现在用PPT做个演示文稿一样简单。到那个时候，大家拼的根本不是谁的技术能力强，是谁手里的高质量行业数据多——毕竟工具是通用的，你手里有独家的、真实的、经过校验的行业流程数据，你微调出来的模型就是比别人的好用。
最后，针对微调环节的监管规则迟早要补上。之前大家都盯着预训练模型的内容安全，其实真的落地的时候，风险全在微调环节——因为通用大模型的输出是可预期的，你微调的时候塞进去什么奇怪的内容，模型就会输出什么奇怪的内容。这个现在的监管空白，不出两年就会有明确的规则出来：哪些数据是不能用来做微调的，微调出来的模型要是出了问题，责任是谁的，怎么追溯。
前几天跟那个自动驾驶的算法负责人又吃夜宵，他说他们现在已经不打算花几千万去训自己的行业大模型了。就拿开源的基础模型，每次路测拿到新的场景数据，就花几百块钱跑一次微调。
效果比之前砸两百万训的专属模型还好。
你看，很多时候大家总觉得技术要越复杂、投入越大才越厉害。但真正落地的时候，最有用的往往不是那些飘在天上的概念，是那些看起来不起眼的、跟具体场景贴得最近的小调整。
作者|大讲堂
排版|大讲堂
审核|白杨