上周三熬到两点半，赶一个临时要的方案改到脑壳发懵，随手点开对话框，把写了一半的产品slogan丢给大语言模型，本来只想凑个热闹找几个灵感，结果它三分钟给我列了17条，每条都顺得像念过十年广告文案的老炮。
我当时就愣了。
不是说它写得有多绝，是那种完全没有卡壳、没有反复斟酌用词的顺滑感，像你对面坐了个跟你聊了三小时天的熟人，根本没意识到它本质上是个靠数词频算出来的文本拼接机器。之前我总觉得，这种能读能写的工具离普通人的日常很远，直到那天我盯着屏幕上跳出来的文字，突然反应过来，我好像之前对它的所有认知，都停留在别人给的标签里，根本没真的拆开来看看它到底是怎么回事。
你以为它在”思考”，其实它在”接话”
很多人第一次用的时候都会产生错觉——它居然懂我上周跟朋友吐槽的那家咖啡馆的冰美式太淡，居然能顺着我没说完的话往下接，甚至能准确接住我抛的谐音梗，这哪里是机器，分明是个藏在屏幕后面的老网友。但戳破这层窗户纸其实特别简单：它根本没有独立的思考能力，所有输出的文字，本质上都是基于逐词概率预测的逻辑——当你输入一串文字之后，它会从自己看过的海量文本里，算出下一个字最可能出现的那个选项，然后一个字一个字拼起来，凑成你看到的流畅句子。
上次我故意跟它说“我家猫昨天把我放在茶几上的半块芒果干吃了，它现在已经——”，它秒回“吐了/躲在沙发底下不敢出来/被我追着打了半栋楼”，你看，对吧，它根本不知道我家猫到底干了啥，它只是根据训练数据里，所有提到“猫吃了芒果干”的上下文里，接下来出现最多的几个场景，给你拼出来了。
说实话，我第一次知道这个原理的时候，后背都有点发凉。
哪有什么智能。
你跟它掏心窝子说你最近工作不顺，它回你一堆安慰的话，本质上跟你翻朋友圈看到别人发emo动态，下面一堆人评论“抱抱”“会好起来的”没区别——它根本没感知到你的情绪，只是知道在这种语境下，说这些话的匹配度最高而已。之前看一个做模型的工程师聊，说现在的大语言模型，你要是跟它说“请你用李白的语气写一封给外卖员的道歉信，因为你忘了拿餐还让人家在楼下等了二十分钟”，它写出来的东西，甚至能比你自己掏心窝子写的还像那么回事，但你要是追着问它“你刚才写的那句‘檐下风急催客步’，你知道李白原来写过这句吗？”，它根本答不上来——它只是把训练数据里所有跟李白的诗、跟道歉信、跟外卖场景的词都拼到一起了，根本不知道句子背后的情绪到底是什么。
那些被吹上天的“神操作”，其实藏着没说的bug
这种拼接式的逻辑，直接导致了它天生带个没法绕开的硬伤：没有内置的事实校验机制。它根本分不清哪些内容是真实发生过的，哪些是网友在论坛上编的段子，哪些是小说里的虚构情节，只要文字的匹配度够高，它就敢输出给你。
上个月有个做学术的朋友跟我吐槽，他让大语言模型帮他找某个小众社会学研究的参考文献，列出来的12篇文献，有8篇根本不存在，作者名字是编的，期刊卷号是凑的，甚至连研究结论都是从别的文章里拼过来的，要不是他自己本来就对这个领域熟，差点就把假文献插到自己的论文里了。
你说它坏吧？它真不是故意骗你。
它只是在算概率——当你要“参考文献”的时候，输出一串带作者、期刊、年份、摘要的格式的文字，是最符合你预期的，至于这些文献是不是真的存在，它的判断逻辑里根本没有这一项。我之前还见过有人用它算某只股票未来三个月的走势，它写出来的分析头头是道，列了好几个技术指标，最后算出来的涨跌幅跟实际走势差了十万八千里，你说它能预测未来吗？它根本不知道股票是什么，它只是把网上所有关于股票分析的文字拼到一起，凑成了看起来很专业的内容而已。
我见过最离谱的说法，是说三年后所有坐办公室写文档、做PPT、写代码的人都要被它替代，我当时听完差点把手里的奶茶喷出来。
你要是真的把所有核心工作都丢给它，写出来的方案没有自己对业务的判断，写出来的代码藏着别人踩过的坑，做出来的PPT全是放之四海而皆准的正确废话，最后被老板骂的、被客户挑错的，难道是那个藏在服务器里的模型吗？
当然不是。
别把它当万能神，它更像个刚毕业的天才实习生
我自己用了快两年，慢慢摸出了最舒服的相处方式：别把它当无所不能的神，就把它当成一个阅过千万篇文档、但没什么实际工作经验的天才实习生。
我不会一上来就把核心的、需要拍板的事丢给它，比如让它直接定公司明年的战略方向，那纯纯是脑子有病；再就是，我会把它当成个快速攒草稿的工具，比如我要写一个活动的初稿框架，先让它给我列几个不同的切入角度，省得我自己对着空白文档坐半小时憋不出第一行字；还有，它交上来的所有东西，我都会逐字逐句检查，就像实习生写的周报要改三遍才能发出去一样——毕竟它可能会把去年的活动数据套到今年的方案里，可能会把别的行业的玩法硬搬到我们的业务上，这些坑，总得有人填。
之前我总觉得，这种能写会算的模型是很遥远的高科技，是放在实验室里供研究员研究的东西，直到上次我用它帮我整理了30页的会议记录，把零散的发言按不同的议题归类，还帮我提炼了每个议题的待办事项，省了我快两个小时的加班时间，我才突然反应过来，这东西其实早就不是什么遥远的概念了——它就是个工具，跟你用Excel算表格、用PS修图没区别。
我见过两种极端的人，一种是把它捧成能解决所有问题的救世主，另一种是骂它是毫无营养的文字垃圾，两种人其实都没真的坐下来跟它好好聊过几次。它没有大家想的那么聪明，不会自己突然觉醒意识统治世界，也没有大家想的那么没用，毕竟当你对着空白文档卡壳的时候，它能给你递过来第一块砖，让你不用在冷启动的阶段耗掉半条命。
上周六我加班到傍晚，窗外的天慢慢暗下来，我又打开对话框，把当天整理的零散素材丢进去，让它帮我把逻辑顺一遍，屏幕上的字一行行跳出来的时候，我突然觉得，其实我们根本不需要把它当成什么“人工智能”的代表，它就是这个时代给普通人递过来的一个新工具而已——你用得好，能帮你省点力，你要是过度迷信，它也能给你挖点坑，就跟所有你用过的工具一样，没什么好神化的，也没什么好害怕的。
作者|科技
排版|科技
审核|白杨