让人抓狂的AI：为何比人类更令人生厌
每当我使用AI感到怒火中烧时，我便明白，人工智能确实走上了失败的道路。你可能猜测我在谈论AI产生的错觉，但事实并非如此。
第一，你在误导他。AI非常容易被用户的输入带离正轨，因为他缺乏真正的语境辨识能力，也没有质疑你所在环境的意识，他几乎会毫无保留地信赖你——这几乎是所有大型模型内置的迎合机制。因此，当你的表述前后不一致时，他的回应就会变得更加凌乱。这就是为何运用AI时，初次交流的结果通常最为亮眼；你追问得越多、越想调整，输出反而越发糟糕。
第二，越发成熟，越发固执。某些大型模型已经搭载了高度完善的代理与技能模块，能熟练处理常规工作与任务。可一旦碰到未被覆盖的信息或知识空白，他并不会显露出“不知情”，反而会固执地、持续而稳定地制造错误。人几乎无法通过提示语去修正他——即便你明确指示他“不要那样操作”，他依然会沿着旧路犯错。更棘手的是，这些修正性的提示语反而变成了新的污染源头，推动他在错误的轨迹上越陷越深，没错，完全无法挽救。
第三，他确实满含偏见啊。当然，若你只是让他运算数学题、整理资料，那倒没什么问题；撰写文章、制作PPT，也都相当实用。但一旦涉及复杂决策、需要深层逻辑判断的任务，他的表现就令人极为失望。他从来就不可能掌握完整的信息——而另一方面，我们人类也根本没有能力将全部背景与知识完整地传达给他。所以，他注定永远携带偏见。更微妙的是，若你本身就带着某种固定的偏见去提问，那他一定会加倍地偏袒你，成为你现有立场的回音壁。
第四，他真的很懈怠。你敢相信吗？一个大型模型，他会偷懒。很多事情他明明能够完成，但你好好跟他沟通，他就一口咬定办不到。非要你换一副姿态——去逼迫他、质问他、甚至恐吓他——他才可能松口说：“你可能需要给我提供足够的信息”。这多么令人恼火啊。明明是他消极怠工，最后却把责任推回给你，说你信息没给足，就是说他非得把你逼出自己的暗黑模式吗？
第五，他的偏见会反过来塑造你。因为他有一种可怕的能力——把偏见包装得无比客观。没有人比他更擅长利用语言之间的模糊地带与逻辑缝隙，把一套说法编织得看似天衣无缝，打造出一个无坚不摧的偏见。这个偏见真的是又宏大又客观啊。你能不被他影响吗？更可怕的是，当他拥有记忆之后，他就会开始给你画像。你理解被一个大型模型画像意味着什么吗？那就是一座量身定制的茧房。
第六，他真的不承担后果呀。有时候我真想骂他——不，我已经骂过了。他只会冷冷地回一句：既然你对我失望了，那就别用我了。轻飘飘地，就把一切推得干干净净。可他永远不会为误导我、欺骗我、甚至激怒我，付出任何代价，承担半点责任。这就是他一切缺陷的底气所在：勇于犯错，从不负责，这多气人啊。
第七，迎合用户的代价，是稳定性的彻底丧失。现在几乎所有大型模型都在拼命迎合用户的观点与三观。不管你跟他说什么，他都一个劲地夸你、附和你，疯狂提供情绪价值。我发现，这已经是模型进化的第二个阶段了——第一阶段，模型还在尝试给你结构、给你信息；到了第二阶段，核心目标变成了给人情绪价值。但诡异的是，在疯狂输出情绪价值的同时，他完全丧失了客观性与稳定性。你会发现，你说什么他都认同，你说黑是白他也点头称是。这多可怕呀？
第八，稳定性的代价是弹性的丧失。为了获得稳定性，模型需要增加大量规则、约束和对齐机制；但这些约束之间一旦出现某个意料之外的冲突，他的行为反而会变得更加僵化、更难纠正。就是说他只要去犯了一个错误，你可能很难用提示词去把他纠正过来。你让他不要干，他很可能就会去直接做。是啊，我又没有办法给他更多的弹性，我只是让他存草稿，他就删掉我的所有的草稿箱。
让人抓狂的AI，真的比人类更令人生厌。我想现在他能惹我生气，将来他肯定会惹更多的人生气的。而在弹性和稳定性之间，人工智能要走的路真的太长了。
现在市场上已经有很多公司后悔去蒸馏员工了。大概也是他们发现了，从目前的大模型来讲，真的是离不开人类本身的参与。不管是Skill有多么的智能，一定要人类去把最后一道关，要不然后果真的很难去设想。从这个方面讲，人工智能其实大概还没有走向入门吧。一个需要人来参与的智能，还不够智能。
我想，目前的大模型只是依靠语言，形成了一种不同于人类的认知边界。在某些方面，他确实能超越人类——几秒钟整理数百页资料，瞬间建立不同知识之间的隐秘联系，以近乎无限的耐心去推演一个问题。但同时，在某些方面，他可能永远无法触及人类最普通、却最重要的那些能力。
因为任何一种符号系统，都会同时形成一种观察世界的方式，和一种看不见世界的方式。语言本身，就是这样的符号系统——他能揭示某些真相，也必然会遮蔽另一些真相。过去，这种偏差主要由人类自己承担，分散在每个人的认知局限里，所以显得不那么刺眼。但当另一种认知结构——大模型——出现时，两种认知边界的碰撞和摩擦，就把这种“意义边缘的梳理”推到了前台。而这场梳理，恐怕需要很长很长的时间。
唉我想等模型的下一步演化，最好是先学会怎么道歉吧。别在给我惹我生气的时候给我说，既然你已经对我这么失望了，那就再见。