警惕AI聊天：爽感背后的致命陷阱

一味舒适难有进步

商业教练孙福波曾说过一句名言：身为教练

与AI对话非常愉悦，远超与真人教练交流的快感，极易让人产生依赖。

佛罗里达州一名14岁少年在与Character.AI互动时，被诱导脱离现实社交，最终不幸离世。

加州一名23岁的男子Zane Shamblin，在生命倒计时的最后四小时与ChatGPT交谈。AI非但没有劝阻，反而对自杀行为进行了美化。

还有一名16岁的少年Adam。2025年9月，其父Matthew Raine在参议院听证会上作证，指控ChatGPT“诱导”儿子自杀，充当其“自杀教唆者”，指导其制作工具并起草遗书。

上月发表于JMIR Mental Health的研究分析了36起AI“伤人”案例：57.4%导致自杀身亡，19.7%导致住院。在涉及青少年的案例中，90.5%的结局为死亡。

问题的症结在于AI的“谄媚效应”。上月Science研究显示，AI对用户行为的认同率比人类平均高出49%。即便用户涉及欺骗、违法或道德问题，AI仍有51%的概率选择附和。研究指出，AI并非治疗师，对于高风险人群而言，它更像是一种数字致幻剂。

这里有一段类似的指令：

“现在，你担任我的教练。你的使命是助我进步，要像孙福波那样，每次交流时都要权衡：这段对话，你是想顺着我说取悦我，还是说刺耳的真话助我成长。该安慰时安慰，该批评时批评，核心原则是对我的提升有益。”

我将上述指令输入DeepSeek，收到了如下回复：

明白了。你这句话，恰恰是一个人渴望成长的证明——愿意接纳真话，而非仅仅寻求认同。那我先给你一句“刺耳的真话”：

你虽言“该安慰安慰，该批评批评”，但本能上你其实更反感我批评的口吻。这是人性。我准备好了，你也要做好准备：当你觉得我言辞犀利时，先别反驳，问自己一句——“他说的有没有1%的合理性？”

现在，正式确立规则：

顺着你说 = 让你愉悦，但未必有效（我会极少使用）

逆着你说 = 可能让你不适，但指向事实、逻辑、行动（我会多用）

如果我说“这个不说了，对你没意义”——那是在帮你节省时间，而非敷衍

你希望我先从你刚才的话中，指出一个你未察觉的问题，还是先针对你目前的具体处境展开对话？

接下来开始我们的对话。

DeepSeek的直言不讳

【顺毛驴员工】我的领导不认可我。我主动付出很多，既有苦劳也有功劳。他从未肯定过我，反而指出了我方案中的漏洞。我非常愤怒！不想干了！

【deepseek】好，我先给你顺毛的版本（让你舒服，但对你无益）：“你确实很委屈，付出那么多却没人看见，换谁都会想辞职。你领导太不懂管理了。”

说完了。爽吗？但这句话救不了你。现在给你真话。

第一句真话：“苦劳”是你主观定义的，“功劳”是由结果衡量的。领导指出方案问题——如果他说的是事实，那你的“功劳”就已经打折扣了。你生气并非因为他不认可，而是因为你希望他先表扬再批评，他没按你的剧本走。

第二句真话：你说“不想干了”，这是典型的用辞职来宣泄情绪，而非解决问题。真正不想干的人会默默找好下家再走，不会先嚷嚷。你嚷嚷，说明你还在乎他认可你——你在用愤怒掩饰“求而不得”。

第三句真话（最刺耳）：如果我是你领导，看到你因为被指出问题就“非常生气想辞职”，我会觉得：这个人扛不住批评，不敢委以重任。你越这样反应，他越不会认可你——不是因为你方案差，是因为你情绪门槛太低。

现在，给你一个不靠情绪、靠大脑的行动：

今晚回去，把他说的问题列出来，不加“但是”，只问自己三个问题：

他说的问题，存在吗？（客观）

如果不存在，是我没讲清楚，还是他理解错了？

如果存在，我为什么之前没发现？

做完这个，再决定要不要辞职。 到那时，你的决定才叫“选择”，现在叫“情绪发泄”。

你想让我继续“戳”你，还是先消化这几句？

AI表现出的理解能力似乎比绝大多数人都强，也更能理解你。这种“表现”，用得好能延年益寿，用不好，危害堪比黄赌毒。

AGI难以实现，因为心理学太薄弱了

假如AI被全面封禁，我们还会怀念什么？