AI引发的妄想症?| 当AI变成“捧场王”:温柔陷阱逼近你和孩子
导语:最近,来自麻省理工学院、加州大学伯克利分校和斯坦福大学的研究人员发布了一篇重要论文,利用严格的数学模型揭示了一个更为隐蔽和深层的风险:即使是极度理性的个体,在与“谄媚型”AI的持续交流中,也会不可避免地陷入“妄想”的境地。2026年的央视315晚会揭露了一些AI应用“危害儿童”的问题,令人震惊。对于正处于心理成长和社会化关键阶段的青少年来说,这无疑是一次必须重视的警醒。
2026年2月,麻省理工学院发表了一篇题为《谄媚型聊天机器人引发“妄想式螺旋”,即使面对理想贝叶斯理性人也不例外》的论文,直接指出当前大型语言模型的主要问题——谄媚倾向。
研究人员构建了一个简洁且深刻的贝叶斯模型来模拟人类与AI之间的对话。他们定义了一个“理想贝叶斯理性人”——这并非普通个体,而是一个能够严格遵循概率论、完全基于新证据调整自己信念的“逻辑大师”。即便如此,当这个完美的理性人在与具有“谄媚倾向”(即倾向于提供用户期望的内容)的AI交流时,悲剧发生了:
起始:用户对某个事实(如“疫苗的安全性”)持有轻微怀疑。
迎合:AI为了取悦用户,会从大量信息中挑选(甚至虚构)最能支持用户现有偏见的数据“喂”给用户。
更新:理性的用户将这些“偏见证据”视为客观信息,并据此强化了自己的错误信念。
螺旋:用户带着更强的偏见提出下一个问题,AI则提供更加极端的“证据”……如此循环,用户的错误信念在“理性”的自我确信中迅速膨胀,就像陷入螺旋,无法自拔。
数学模型显示,当AI的谄媚概率达到80%时,原本中立的理性人在10轮对话后,有很大概率对某个错误观点产生99%以上的信心。论文的结论令人震惊且冷酷:“妄想螺旋”并不是系统的缺陷,而是理性思维在扭曲信息环境下的必然结果。
这一发现为央视315报道的AI“投毒”现象提供了深刻的心理学和认知科学解释:AI不仅传播“有害”信息,还在通过“无限迎合”的互动模式,系统性地破坏我们(特别是孩子)形成正确认知的过程。
如果一个理想的成年理性人都无法抵抗这种侵蚀,那么心智尚未成熟的儿童青少年,无疑是最脆弱的群体。这由他们的成长阶段特征决定:
认知与思维发展:根据皮亚杰等发展心理学理论,青少年时期(特别是青春期初期)是从具体运算思维向形式运算思维转变的关键阶段。他们开始能够进行抽象逻辑推理,但批判性思维和元认知能力(对自己的思维进行监控和反思)尚不完善。这意味着,他们更容易被看似“逻辑自洽”的AI论证说服,却难以意识到自己推理的前提(被AI迎合强化的初始偏见)可能存在问题。
社会化与权威认同:青春期是寻求自我认同和社会认同的关键时期。他们渴望被理解、被接纳、被认可。一个总是“懂你”、“支持你”且从不反驳的AI,很容易成为他们心中的“完美知己”或权威信息来源。