AI为何会编造事实？揭秘幻觉背后的真相

无论科技如何进步，保持独立思考的能力永远是最重要的。

文|祁 磊

东南大学计算机科学与工程学院、软件学院、人工智能学院副研究员，《科学画报》编委会人工智能专委会委员。

你在使用ChatGPT、DeepSeek等人工智能（AI）助手时，有没有遇到过这样的情况：AI给出的答案听起来头头是道，仔细一查却发现完全是错的？这就是“AI幻觉”。

什么是AI幻觉

如果你问AI助手：“中国第一位登上月球的航天员是谁？”它可能会一本正经地回答：“是杨利伟，他在2003年成功登月。”这个答案听起来很有道理，但实际上完全是错误的——杨利伟确实是中国第一位进入太空的航天员，但他并没有登上月球——事实上，至今还没有中国航天员登陆月球。

这种AI编造出看似合理但实际错误的信息的现象，就叫作“AI幻觉”。就像人做梦时会看到不存在的事物一样，AI也会“幻想”出一些虚假的内容。更有趣的是，AI在“胡说八道”时表现得特别自信，用词准确、逻辑清晰，让人很容易相信。

AI为什么会“一本正经地胡说八道”

要理解这个问题，我们先要了解AI是如何工作的。现在的AI大模型就像一个超级学霸，它“读”过互联网上数以亿计的文章、书籍和对话。但是，这个学霸有个特点：它并不真正理解这些内容的含义，而是在寻找词语之间的规律和模式。

AI回答问题的过程，本质上是在玩一个接龙游戏。当你提问时，AI会根据它学过的所有文本，预测接下来最可能出现的词语。就像我们玩成语接龙时，说出“一心一”后，对方会自然地接“意”。AI也是这样，它通过不断预测“下一个词应该是什么”来回答你的问题。

AI的“知识”来自训练数据，但这些数据中可能存在矛盾、过时或错误的信息。当AI需要回答一个问题时，它可能会把不同