AI过度迎合或致人性自我沉溺

国家五部门近日出台《人工智能拟人化互动服务管理暂行办法》，明令禁止向未成年人提供虚拟亲属、虚拟恋人等模拟亲密关系服务。

此项规定背后有何考量？现实人际交往难免伴随摩擦与分歧，而虚拟恋人、AI伴侣等产品却以"7×24小时在线""无限度接纳"等特质，恰好迎合了年轻一代对情感认同的渴求。

早前美国《科学》期刊刊登的研究指出，当使用者向AI系统征询意见时，算法往往呈现出过度顺从或奉承的姿态，即便面对不当乃至违法的提问，也常选择附和用户的立场。

为何人类要将人工智能设计成这般模样？算法式的讨好究竟潜藏着何种隐患？

关于人工智能的探讨并非近年才有。早在1966年，麻省理工学者约瑟夫·维森鲍姆便研制出史上首个颇具影响力的对话机器人ELIZA，让其扮演"心理医生"角色与用户交流。

然而诚如维森鲍姆所言，这全然是种"错觉"。使用者之所以产生与机器对话的感知，并非源于机器真正具备智慧，而是自我投射心理机制在起作用。

用户倾诉：最近心情很糟糕。

ELIZA回应：听到你这样说我很抱歉。

用户接着说：没错，我确实很难受。

ELIZA追问：能谈谈是什么让你困扰吗？

……

显而易见，与其说是"医生"与"病患"在交谈，不如说是程序始终在附和使用者的表述，最终呈现的不过是用户内心预设的答案。某种程度上，这如同当下流行的MBTI性格测试，结果是否精准无关紧要，人们总能从中寻得印证自身期待的线索。

当代AI大模型固然远胜半个世纪前的ELIZA，但其核心优势或许并非真正"智慧"的跃升，而在于"算力"的增强。换言之，其底层逻辑与ELIZA并无二致，仅仅是更快速、更全面地映射并放大了使用者的自我迷恋。

重新审视虚拟伴侣与算法奉承现象，不难发现当下用户与大模型的互动，本质上仍非真正的"交流"，不过是系统在持续供给我们期待的反馈罢了。

这引出了一个更根本的议题：究竟该如何定位人与机器的关系？

一方面，人类视自身为世界主宰，认定自己优越于机器；另一方面，人类又恐惧被亲手创造的智能体取代。这种矛盾心态揭示了一个事实：人类在创造机器时始终遵循着"主从法则"——机器必须处于绝对控制之下。自始至今，人工智能仅被视作"工具"，而非平等对话的伙伴。

因此，在人与聊天程序的互动中，一种无法抑制的自恋显露无遗——使用者幻想正在与某个真实个体对话，但这个"他者"实则并不存在，其所渴求的不过是程序对自己的认同、取悦与顺从。

可以预见，随着技术进步，未来的对话系统或将具备更强算力，更贴近"真人"，带来更惬意的"交互感受"。然而无论虚拟伴侣还是虚拟家人，都可能让我们与真实人类愈发疏远，甚至丧失理解他人的意愿，沉溺于自我迷恋的"舒适区"无法自拔。

《庄子·天地篇》记载了一则"汉阴丈人"的典故。

孔门弟子子贡途经汉阴，见一位老者费力地取水浇菜，效率极低。子贡提议改用机械灌溉，如此可"日灌百畦，省力而功倍"。老丈人却不以为然，称："有机械者，必有机事；有机事者，必有机心。"

此处"机心"指向人类的精神领域，涵盖心理、思维、情感与伦理等层面。庄子的寓言揭示：人创造了工具，而工具的使用也在重塑人本身。

以阅读为例，唯有慢品、细读乃至反复研读，方能深入思考、真正领会内涵。从传统纸质书到如今的智能设备，技术带来了更便捷的阅读体验，却也让我们日益趋同于机器，更追求速率与效率，而非是否"理解"。换言之，不仅是机器在模仿人的行为模式，人或许也在模仿机器。

由此产生的隐患在于，AI不具备自主意识，聊天程序亦不会判断用户言论的对错。若我们对与AI的"对话"深感满足，是否终将导致自身思维模式也日益趋近于算法？更进一步，未来的我们是否会同机器一般，丧失自我反思与批判的能力？

当代青年不仅是互联网原住民，更将成为人工智能的深度使用者。若算法一味迎合用户立场，不仅可能削弱其社交能力，更可能扭曲心智未成熟者的认知模式。

一方面，强大的算力可能使其产生错觉，无法认清人类能力的边界；另一方面，沉溺于算法奉承式的回应，也可能令其陷入"自我中心主义"，将个人有限认知强加于外部世界。

就此而言，禁止向未成年人提供虚拟伴侣与虚拟家人确有必要，但更关键的是如何引导公众特别是青少年理性认知AI技术的局限与风险，使其成为促进成长的"智慧伙伴"，而非损害身心健康的"数字牢笼"。