Anthropic 警示 AI 失控风险，倡全球暂缓研发

作者丨顾亭亭

6 月 5 日讯，AI 领域领军企业 Anthropic 近日发布一份报告，罕见地向全球同行发出呼吁，建议延缓乃至暂停更高级 AI 系统的研发，理由是最新模型已显露出脱离人类掌控的苗头。

该文章名为《当 AI 构建自身》（When AI Builds Itself），由公司联合创始人 Jack Clark 与内部研究主管 Marina Favaro 共同署名。尤为少见的是，此次他们披露了一组从未公开的内部数据，以证明 AI 正在加速其自身的迭代开发。

Anthropic 指出，其代码库中超过八成的代码已由 Claude 生成。而真正引发警觉的，是“递归自我改进”这一概念。简言之，即 AI 无需人工干预，便能自主设计并进化出更强大的下一代版本。

Anthropic 研判，这一临界点极有可能在未来两年内到来，甚至更早。一旦 AI 具备完全自主制造继任者的能力，人类对其实施监控与约束的难度将远超当下。

正因如此，Anthropic 主张全球应保留减缓或暂时中止前沿 AI 研究的选项。但他们也坦言此举难度极大，若仅单方停步，竞争对手势必趁机加速赶超。

故而，Anthropic 期盼美国、中国等 AI 主要力量能展开对话达成共识，建立一套各方均可相互核查的规则体系。

Anthropic 将此构想比作核不扩散条约，但也承认 AI 治理比核武管控更为艰难。毕竟训练 AI 远比发射导弹隐蔽，在利益驱动下，难免有企业暗中继续研发。未来数月，该公司计划召集政府官员、科学家、倡导团体乃至竞争对手，共同探讨此类全球协调机制的落地方案。

然而，并非所有声音都赞同其观点，例如白宫部分官员便对此表示不满，认为其过度渲染极端情景、夸大 AI 风险，甚至涉嫌借安全之名行阻碍对手之实。

AI 演进速度确实惊人，伴随而来的潜在隐患亦不容忽视。如何在推进技术革新的同时同步完善监管，已成为业界无法回避的核心议题。

精彩推荐

1.曝小米 18 Pro Max 搭载双 2 亿像素镜头，还有 8500mAh 大电池

2.比亚迪为辅助驾驶城市领航兜底，那和 L3 自动驾驶还有什么区别？

3.旧壳还能接着用！iPhone 18 Pro Max 厚度实测 8.75mm，和上代一致

4.还没坐上宝座，苹果太子砍掉新 Vision Pro 立威？

5.粉丝拿出 GeForce GTX 1080 求签名，黄仁勋：它改变了一切