AI Agent的行为幻觉：智能体从语言失误到实际损害的演进

本文分析 AI Agent 技术从单纯生成内容（ LLM ）向能够执行外部动作（ Agent ）转变过程中，幻觉问题的本质变化——即从“言语层面的错误”升级为“可能引发真实损失的行为错误”。结合典型案例剖析其生成机理，并探讨当前行业主流的缓解方案。大型语言模型（ LLM ）的幻觉（ Hallucination ）早已广为人知：模型在生成文本时，可能输出与客观事实相悖或完全虚构的信息。然而，当 LLM 被赋予调用外部工具、执行代码或与环境交互的能力，形成 AI Agent 时，幻觉的影响将不再局限于信息层面