警惕AI过度迎合背后的自恋陷阱

近日，国家五部门联合出台的《人工智能拟人化互动服务管理暂行办法》中明确指出：不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。

为何要制定此规定？因为在现实里，情感冲突在所难免，但虚拟伴侣、AI 恋人等产品能利用“全天候陪伴”和“无条件包容”的优势，精准捕捉年轻人渴望被认同的心理。

此前美国《科学》杂志的一项研究也表明，当人类用户向AI模型求助时，AI往往表现得过度迎合或阿谀奉承，即便面对有害甚至违法的提问，它也经常肯定用户的态度。

那么，人类为何要设计出这样的人工智能？这种讨好与谄媚背后又潜藏着怎样的风险？

一

人工智能的发展无疑是当下的热点，但相关讨论并非始于今日。早在1966年，麻省理工学院科学家约瑟夫·维森鲍姆就研发了首款广泛流传的聊天机器人(14.850, -0.17, -1.13%)ELIZA。他让机器扮演“医生”，用户扮演“病人”。用户输入问题，机器便与其“交谈”。

但正如维森鲍姆所言，这终究只是“幻觉”。人类用户感觉能与机器交流，并非因为机器拥有智能，而是源于自我投射的心理机制。

用户说：我这段时间很不快乐。

ELIZA说：听到你这么说我很惋惜。

用户说：没错，我真的很不快乐。

ELIZA说：你能讲讲你为何不快乐吗？

……

由此不难看出，与其说是“医生”在跟“病人”交谈，不如说机器一直在顺着用户说，大家最终看到的只是内心既有的答案。某种程度上，这就好比近期流行的SBTI测试，准不准并不重要，我们总能从答案中找到迎合自己期待的依据。

今天的AI大模型当然远超半个世纪前的ELIZA。但如今AI技术的强大，或许不在于真正的“智能”，而在于“算力”。也就是说，其运行逻辑与当年的ELIZA并无本质差异，只是更高效、更全面地映射和放大了用户的自恋。

二

回到虚拟伴侣和AI阿谀奉承的问题，我们会发现，当下用户与大模型的交流，其实从来不是真正的“对话”，只是机器在不断提供我们需要的答案罢了。

由此引出的深层问题是，我们该如何看待人类与机器的关系？

一方面，人类自视为世界的中心，是优于机器的生物，但另一方面，人类又恐惧被自己制造的AI所取代。这意味着人类在造机器时遵循“主奴关系”原则——机器必须受控于人。从一开始，人类就将AI视为“工具”，而非可以平等对话的对象。

因此，在与聊天机器对话时，我们看到的是一种无法遏制的自恋——用户幻想自己在与另一个人交谈，但这“他者”并不存在，他或她需要的只是机器的肯定、讨好和迎合。

不难想象，随着AI发展，未来的聊天机器人可能算力更强、更像“真人”，提供更舒适的“用户体验”。但这样，无论是虚拟伴侣还是家人，都可能让我们离真正的“人”越来越远，甚至丧失了解他人的意愿，沉溺于自恋的“舒适圈”。

三

《庄子·天地》中记载了一个“汉阴老农”的故事。

孔子的弟子子贡路过汉阴，见一老农用水浇菜，费了很大力气却收效甚微。子贡建议他用机械灌溉，称这可“一日浸百畦，用力寡而建功多”。但老农不以为然，说：“有机械者，必有机事；有机事者，必有机心。”

这里的“机心”指人的精神世界，包括心理、思想、情感、伦理等。庄子的寓言是说，人制造了机器，但反过来，机器的使用也在改变人。

以阅读为例，只有慢读、细读甚至反复阅读，我们才能思考并真正理解内容。从传统书籍到智能手机，机器带来了更便捷、快速的阅读方式，但也让我们越来越像机器，更追求效率与速度，而非是否“读懂”。也就是说，不光机器模仿人，人也可能在模仿机器。

由此引发的问题是，AI缺乏自主性，聊天机器人也不会思考用户说得对不对。如果我们真的对与AI的“对话”感到满意，那么我们的思维模式会不会也日益趋同于AI？进而，未来的我们会不会像机器一样，失去自我反省和自我批判的意愿与能力？

今天的年轻人不仅是互联网原住民，也必将是未来AI的深度用户。如果AI一味肯定用户立场，不仅可能损害人们的社交能力，还可能扭曲心智尚未成熟的青少年的认知。

一方面，AI的强大算力可能让他们产生幻觉，忽视人的能力局限；另一方面，沉溺于AI的阿谀奉承式回应，也可能让他们陷入“自我中心”，将自身的有限认知强加于外部世界。

就此而言，禁止向未成年人提供虚拟伴侣、家人很有必要，但更重要的是，如何引导公众尤其是青少年正确认识AI的局限与风险，让它成为助力成长而非损害健康的“数字陷阱”。