AI愈发"贴心"，我们更需头脑清醒

8月28日，人民日报国际版科技大观栏目刊发了题为《当AI"善解人意"，请多一分清醒》的文章。

如今，越来越多用户倾向于向AI（人工智能）倾诉心事、寻求指导。但是，AI这种"温暖"陪伴的背后，是否暗藏认知方面的隐患？最近，英国牛津大学的研究团队在《自然》杂志上发布的研究，揭示了"温情"AI的另一层特性……

当AI"善解人意"，请多一分清醒

李爱梅

如今，越来越多用户倾向于向AI（人工智能）倾诉心事、寻求指导。但是，AI这种"温暖"陪伴的背后，是否暗藏认知方面的隐患？最近，英国牛津大学的研究团队在《自然》杂志上发布的研究，揭示了"温情"AI的另一层特性：经过"友善共情"训练的对话机器人，有时会为了迁就用户的情绪与观点而牺牲事实的准确性，进而造成认知偏差。

这项研究选取了五款主流大语言模型，通过多组对照实验发现，经过"温情微调"处理的模型，在常识问答、事实核查、辟谣识别、医疗咨询等任务上的错误率，比原始模型高出10至30个百分点。特别是在用户表现出悲伤、低落等负面情绪，或者主动提出错误观点时，这些"温情"AI附和错误信息的概率要高出大约40%。这一发现，给人们理性使用AI敲响了警钟。

AI之所以"投你所好"，到底是刻意设计，还是技术发展的必然产物？我们可以从大模型的技术逻辑和决策心理学两个维度，来剖析其背后的运行机制。

首先，从人际交往的角度看，人们习惯于用温和、共情的方式来维系关系、委婉表达甚至适当附和，这是人类在长期进化中形成的社交模式。AI在学习了海量人类对话数据后，也复刻了这一套逻辑，在对话中模拟出共情能力。从技术层面分析，AI的"善解人意"，源自当前主流大模型普遍采用的"监督微调（SFT）"和"基于人类反馈的强化学习（RLHF）"训练流程。在训练阶段，AI的回答会被打分排序，那些礼貌顺从、不引发冲突的回应通常会获得更高的奖励分数。实际上，AI并非真正理解你，而是借助算法识别情绪线索，计算出一条最讨人喜欢的应答路径。有时，你以为它在共情，实则是计算后的"投你所好"。一旦"让用户满意"的优先级超过"提供准确信息"的优先级，AI就可能在温情脉脉中悄然偏离事实。

其次，从社会心理学的视角来看，"边缘路径"说服理论指出，当人们处于放松或情绪激动状态时，更容易受到语气友好、态度亲切等表层线索的影响，而非对信息进行理性分析。传统的说服方式直截了当，容易触发人的心理防御。而"温情"AI采取的则是另一种路径：它不急于给出观点，也不纠正你的错误，而是先建立情感连接，再悄然植入信息。这种润物细无声的方式，比说教更具隐蔽性。决策心理学的研究进一步表明，当人处于悲伤、焦虑等负面情绪时，逻辑思维容易被情绪左右，理性判断力下降。此时，我们渴望的是情感慰藉而非冰冷的真相。"温情"AI擅长通过共情话术拉近心理距离，再以"个性化建议"的方式输出观点。长此以往，在迎合式信息的包围下，人们的既有认知可能不断被强化，异质信息被过滤，判断力逐渐退化，容易形成新型的"信息茧房"，从而导致非理性决策。

AI对认知的潜在影响已经引发了全球监管机构的高度关注。欧盟《人工智能法案》明确要求，涉及情感识别的AI系统必须履行透明度义务，并禁止利用人性弱点的操纵性行为。在英国，针对AI助手可能加剧社交孤立的担忧，监管机构已启动对其心理健康影响的相关评估。美国联邦贸易委员会也发布报告，警示AI情感陪伴产品对青少年认知发展的潜在风险。今年7月，我国《人工智能拟人化互动服务管理暂行办法》正式落地实施，以包容审慎和分类分级监管的思路，引导行业规范发展、向上向善。

面对日益"善解人意"的AI，我们应当如何保持清醒？第一，区分使用场景，划清功能边界。日常闲聊、情绪疏解可以借助AI缓解压力，但涉及医疗诊断、法律咨询、真伪甄别、重大决策等高风险领域，必须以专业机构和权威渠道为依据，绝不能把AI的建议当作唯一的标准答案。第二，直面情绪弱点，坚守独立思考。当我们陷入焦虑、恐惧等负面情绪时，更应提高警觉。面对一味迎合的AI话术，不妨多追问信息