人工智能为何会产生虚假内容？深度解析AI幻觉现象

在科技飞速发展的今天，培养批判性思维始终是不可或缺的能力。

文|祁 磊

东南大学计算机科学与工程学院、软件学院、人工智能学院副研究员，《科学画报》编委会人工智能专委会委员。

当你在使用ChatGPT、DeepSeek等智能助手时，是否曾碰到过这种状况：AI给出的回复听起来振振有词，但仔细核实却发现完全站不住脚？这就是我们所说的“AI幻觉”。

何为AI幻觉

假设你向AI助手提问：“中国首位登陆月球的航天员是哪位？”它或许会言之凿凿地回应：“是杨利伟，他于2003年成功实现登月。”这个答案听起来很有说服力，但实则完全站不住脚——杨利伟确实是中国首位进入太空的航天员，然而他并未踏足月球——事实上，截至目前尚无中国航天员登上月球。

这种AI凭空编造看似合情合理实则谬误的信息的现象，便被称为“AI幻觉”。正如人类在梦境中会看到并不存在的事物，AI同样会“臆想”出一些虚假的内容。更耐人寻味的是，AI在“信口开河”时表现得格外笃定，用词精准、条理分明，极易让人信以为真。

AI为何会“振振有词地胡言乱语”

要弄清这个问题，首先得明白AI的运作机制。当下的AI大模型仿若一位学识渊博的专家，它“研读”了互联网上不计其数的文章、著作和对话。然而这位专家有一个特点：它并不真正领悟这些内容的本质，而是在捕捉词汇之间的规律与模式。

AI解答问题的过程，本质上是一场文字接龙游戏。当你提出问题时，AI会依据它所学习过的全部文本，推测接下来最可能出现的词汇。正如我们进行成语接龙时，说出“一心一”后，对方会自然而然地接“意”。AI亦是如此，它通过持续推测“下一个词应该是什么”来回应你的提问。

AI的“认知”源于训练数据，但这些数据中可能包含相互矛盾、过时或有误的信息。当AI需要回答某个问题时，它可能会将不同