标签

Nature警示:AI科研热潮下的冷思考

发布时间:2026-05-31 14:19来源:微信阅读:6

AI 科研流水线系列至此已发布前 4 站内容:首站为借助 AI 寻找资源,第二站是利用 AI 进行预测,第三站是使用 AI 辅助设计,第四站则是由 AI 自动完成实验流程。表面上看,AI 在科研中实现了全面提速。

然而在 5 月 19 日,Nature 发表的一篇评论文章却给这一趋势敲响了警钟。该文标题为「AI 在科研中的盲目应用令人担忧,我们急需设立规范」,作者为耶鲁大学的人类学教授 Lisa Messeri 与普林斯顿大学的心理学教授 M. J. Crockett。

他们的主要观点是:论文数量的增加,并不等同于科学进展的加快。文章列举了三个具体案例,指出副作用已经开始显现。这篇文章为我们整个系列提供了一个反思性的结尾。

关键信息速览 · Nature 评论要点

文章类型

Nature 评论文章

时间

2026 年 5 月 19 日

作者

耶鲁 + 普林斯顿

Messeri & Crockett

核心警告

三大证据

思路 + 质量 + 新人

最大规模分析

涵盖 4130 万

篇论文,涉及 6 个学科

AI 科研流水线 · 五站规划图

站 1

找资源

已完成

站 2

做预测

已完成

站 3

搞设计

已完成

站 4

做实验

已完成

★ 站 5

想风险

本期总结

系列总结。前四站展示了 AI 的科研能力,本期刊文则聚焦于 AI 的局限性。

第一个证据来自 2026 年另一篇 Nature 论文(Hao 等人)。该研究分析了 4130 万篇研究论文,涵盖生物、医学、化学、物理、材料、地球科学六大领域。研究结论指出:

「AI 的使用促使研究者聚焦于已有问题的重复解决方案,而非探索新问题。」

换句话说:使用 AI 工具撰写论文的研究人员更倾向于研究已被广泛探讨的问题,给出与他人相似的答案。这是因为 LLM 基于历史语料训练,自然地复制了已知研究模式。

Messeri 和 Crockett 将这种现象称为「对知识生态的连锁影响」。简言之,AI 不仅使单篇论文趋同,还逐渐压缩了整个科学界的探索空间。如果所有人都使用相同的 AI 工具研究相同问题,真正的创新思想将被逐渐排挤。

第二个证据更加直接。两组独立研究都发现了一致的现象:

第二项研究的作者得出了一个直白的结论。原文是:

「表面上很有说服力但科学上令人失望的研究,可能会淹没整个文献。」

这个警告非常明确。LLM 让每个人都能写出语法完美、逻辑顺畅、看起来很专业的论文。但当这种能力被普及后,「写得好」就不再等同于「科学好」。审稿人和读者需要更多精力来识别真正有价值的研究。

这是文章中最尖锐的一段,也是耶鲁大学这位人类学教授最擅长的视角。

Messeri 和 Crockett 引用了科学社会学经典理论 Harry Collins 的「隐性知识」(tacit knowledge)概念。简言之,科研有两种知识:

显性知识(explicit knowledge)

即论文、教科书、方法部分中可被语言传递的内容。

隐性知识(tacit knowledge)

无法完全通过语言传递,只能通过实践和师徒传承获得。例如:哪些数据看起来「合理」、实验细节中哪些地方容易出错、一个结果是否与已有文献相符。

科研新人如何获得隐性知识?传统路径是从「入门级」工作开始:清理原始数据、做文献综述、给老师打杂跑实验。这些工作看似枯燥,但正是它们让新人逐步接触到真实的数据、文献和实验。

问题在于:AI 正在替代这些入门级工作。LLM 帮你清理数据、撰写综述、运行模拟。新人不再有机会进行这些「枯燥但重要」的工作,因此无法积累隐性知识。

Messeri 和 Crockett 指出了一个最令人担忧的悖论。AI 工具的开发者反复强调:

「我们的目标不是替代科学家,而是增强和加速他们的工作。」

这听起来很合理。AI 生成结果,专家科学家来检查、纠错、负责。但 Messeri 和 Crockett 反问:

监督 AI 需要资深科学家的判断力。判断力来自经验。经验来自从入门工作一步步积累的隐性知识。但 AI 正在削减这些入门工作。

那么下一代「应该监督 AI 的科学家」从何而来?

这个问题没有简单答案。两位作者只是冷静地将其发表在 Nature 主刊上,让整个学术界共同思考。

Nature 评论 · 一句话总结

发表更多论文 ≠ 科学进展更多

研究思路在变窄 · 写得好不再等于科学好

新人正在被「去技能化」

Messeri (耶鲁) · Crockett (普林斯顿) · Nature 2026

数据 · doi.org/10.1038/d41586-026-01557-x | 科研 AGENT 实验室

↑ 长按保存或截图发送至导师 / 研究生群

前四站我们介绍了 AI 在科研中的应用:找资源、做预测、搞设计、做实验。每一步都令人振奋。但 Nature 的这篇评论在最后敲响了警钟。

这两位教授并非反对 AI,他们都是顶尖学者,肯定也在自己的工作中使用 AI。他们强调的是「我们急需设立规范」。不是停止使用,而是在使用中设立护栏。

对每个使用 AI 做科研的人,有三句话:

① 使用 AI 加速可以,但不要让 AI 替你判断。判断力是科学家最宝贵的资产,必须自己培养。

② 入门级的「枯燥」工作不要全部外包给 AI。清理数据、阅读文献、运行预实验,这些是你积累隐性知识的入口。

③ 带学生的导师要特别警惕。不要让学生在获得博士学位时,发表能力世界一流的,但判断真实科学问题的能力却几乎是空的。

五篇连载,AI 科研流水线系列到此结束。回顾来看,每站对应 AI 在科研流程中的一个角色:

前四站展示了 AI 在科研中的力量。最后一站提醒我们,这种力量需要被审慎使用。这两件事并不矛盾,都是当代科研人应有的态度。

论文信息

Messeri L, Crockett M J. 对 AI 在科研中的盲目应用令人担忧,我们急需设立护栏。Nature, 2026, 653(8115): 675-676. DOI:10.1038/d41586-026-01557-x | 相关原始论文:Messeri & Crockett, Nature 2024, 627: 49-58(AI 与科研中的理解幻觉)

💬 评论区聊聊

你在科研中最依赖 AI 的是哪一步?写文献综述、清理数据、运行代码,还是想 idea?如果让你完全不用 AI 重新做一次,你最舍不得放手的是哪一步?评论区聊聊你的实际依赖。

📤 发给你身边的导师和研究生

这篇值得在课题组里读一遍。AI 帮你写得快不一定帮你做得好。特别是带学生的导师,要警惕学生在博士期间发表能力一流但判断力空白。这是 Nature 写给整个学术界的话,比任何一份导师建议都更重。

🎬 系列收官

AI 科研流水线系列 5 篇全部发完。后续会继续做新的系列,可能聚焦:单一论文深度精读、科研工具组合避坑、AI4Sci 商业化观察。想看什么主题在评论区说。

科研 AGENT 实验室 · 顶刊雷达 系列第 5 站,共 5 站 · 收官

2026-05-31