AI 幻觉困境：为何“核实”举步维艰

虽然我坚信 AI 能助力我们提升效能，达成那些曾因时空或资金局限而难以企及的目标。然而，我也预判将出现大量放任 AI 幻觉而不加核实的情形，这将削弱历史学研究的信度并损害 AI 的“声誉”

譬如甲可能径直指令 AI 联网检索某主题史料，若 AI 未寻得相关信息便着手杜撰，或断言其不存在—而甲并未核验。又如乙或许让 AI 执行 OCR 文字转换，因原始影像过于模糊或字迹潦草，AI 识别欠佳，产出些看似通顺却与原文相去甚远的内容—而乙不予核对。丙则令 AI 联网查询事实类问题，笃信 AI 无所不知—实则网络并无相关记载，AI 继续虚构—但丙直接采纳，不加审视。丁要求 AI 依其预设视角解读史料，AI 出于迎合倾向忽略矛盾信息以顺从其角度，或压根缺乏足够分析力去察觉不符预设之处，而丁亦不核对修正。再假设戊的存在，此人直接委托 AI 依据史料撰写部分初稿，而 AI 提供的架构与分析却是不合逻辑的。

（以下为语音输入）

在此我还想阐述一个议题，那便是核实听似简易，实则极难掌控。因为倘若我们对 AI 输出的所有成果皆进行核验，那么 AI 本就能高精准度完成某些工作—这既低效又不切实际。但我们该如何判定 AI 完成哪些任务是可信的？哪些任务仍需人工介入检查？一旦判断失准，我们便极有可能遭受 AI 幻觉的蒙蔽。