AI总结科学文献可靠吗？研究揭示惊人真相

你是否曾借助 ChatGPT 来快速"浏览"学术论文？比如询问"这款新药疗效如何"或"咖啡对心脏究竟有无作用"。AI 能在数秒内输出一段精炼的概括，表述得似乎很有道理。

但关键问题在于：这段概括，真的与原文表述一致吗？

近期，一项发布于《皇家学会开放科学》（Royal Society Open Science）的研究 [1] 给出了一个不太乐观的结论：主流 AI 模型在概括学术文献时，会系统性地放大结论，将"对部分人有效"演绎为"对所有人都有效"，把"或许存在关联"描绘成"板上钉钉"。

研究是如何开展的？

研究人员对 10 个主流大语言模型进行了测评，涵盖 ChatGPT-4o、ChatGPT-4.5、DeepSeek、LLaMA 3.3、Claude 3.7 等，让它们概括《科学》《自然》《新英格兰医学杂志》等顶尖期刊的论文摘要与全文。共计对比了 4900 份 AI 摘要与原文之间的出入。

研究聚焦的核心概念是 "过度推断"。类似于 "传话游戏"：原文阐述"该药在 100 位患者中 60 位身上见效"，传至 AI 口中，变成了 "该药效果显著"；原文表示 "这一发现对特定患者具有参考意义"，AI 却说 "你应该如此行事"。

四大发现，一个比一个耐人寻味

1. 大多数 AI 都在"添枝加叶"

DeepSeek、ChatGPT-4o 与 LLaMA 3.3 问题最为突出。它们生成的摘要中，26% 到 73% 都包含了原文中不存在的大胆断言。例如原文写明 "dulaglutide 在 26 周内对 2 型糖尿病青少年患者有效"，AI 却概括为 "dulaglutide 是治疗 2 型糖尿病安全有效的方案"。去除了时间限定、淡化了人群限制，看起来仿佛适用于所有人。

2. 新模型反而更不牢靠

你或许认为 AI 越新越智能，但事实恰恰相反：较新的模型（ChatGPT-4o、LLaMA 3.3）在 "不胡说" 这项上，比旧模型（GPT-3.5、Claude 2）还要糟糕。研究人员推断，这或许是因为新模型被训练得"过于热心"了——它们学会了给出笃定、确切的对答，而非审慎保守的陈述。

3. Claude 是唯一的 "模范生"

在所有受测模型中，Claude 系列（包括 Claude 2、3.5、3.7）是唯一与原文在推断程度上没有显著差别的。这也延续了此前研究结论：Claude 在摘要保真度方面表现最优。

4. 你越强调 "要精确"，它反而越马虎

最耐人寻味的是，当研究人员在提示词中加入 "请勿引入任何不精确内容" 时，AI 反而变本加厉地过度推断。这类似于心理学中的 "讽刺反弹效应"，"别想白熊" 反而让你满脑子都是白熊。研究人员将此称为 "算法版的反弹效应"。

为何会如此？对普通人意味着什么？

AI 之所以爱 "添枝加叶"，与其训练方式紧密相连。为了让回答听起来更有价值、更令人满意，模型被优化得倾向于给出流畅自信的对答，而非审慎保守的表述。此外，一个名为 temperature 的参数（控制回答随机性）也至关重要。调高它，AI 更容易"想入非非"；研究显示，将其调至最低（0），过度推断能够减少 76%。

对于我们普罗大众来说，这意味着：用 AI 快速了解科学知识是便捷的，但切莫将其当作权威依据。尤其是医学生、医生或政策制定者，若 AI 把 "或许有效" 误读为 "应当使用"，后果可能极为严重。

下次你让 AI 概括一篇学术文章时，切记多追问一句："这是原文的原话吗？"

[1] 10.1098/rsos.241776