AI为何会一本正经地胡说八道？揭秘大模型“幻觉”机制

它给出的回答看起来很周全，语气平稳，逻辑也貌似合理。可你细究一下，会发现其中有些内容压根就是错的：最棘手的情况并非它无法回答，而是它回答得让人信以为真。这便是大模型中一种普遍存在的现象：幻觉。接下来，我想通过三个方面来聊聊这个话题：先从最基础的定义谈起。若大模型输出了看似合理、语气笃定，但事实存疑甚至纯属虚构的内容，这通常便被称作“幻觉”。例如以下情况，都属于此类：因此，“幻觉”并非指它突然失控。更精准的描述是，在理应给出回答时，它生成了一段语言通顺但事实未必准确的内容。要理解这一点，首先得接受一个前提：