AI巨头Anthropic警告AI“自我改进”风险，呼吁全球暂停开发

5日，“Anthropic呼吁全球暂停AI开发”这一话题迅速登顶微博热搜榜。

据外媒《华尔街日报》6月5日报道，AI初创公司Anthropic敦促全球顶尖实验室放慢研发节奏，担心AI系统进化过快，若在无人类介入下实现自我迭代，恐引发严重社会隐患。

据悉，Anthropic于4日在官网博客发布了题为《当AI构建自身》的深度文章。此文由联合创始人Jack Clark及研究负责人Marina Favaro合著，罕见地公开了部分未曾在外的内部运营数据。

数据显示AI自我迭代速度惊人：至2026年5月，Anthropic代码库中逾八成代码由Claude自动生成；对比2024年，工程师日合并代码量激增8倍；内部调查显示，使用Mythos Preview模型后，员工产出效率提升至不使用工具时的4倍。

Anthropic提出了令业界担忧的“递归自我改进”概念，即AI无需人工干预就能自主设计并优化下一代模型。虽然该技术尚未成熟，但Anthropic预测其可能在两年内甚至更早实现。

基于此数据，Anthropic罕见地建议全球协调暂停或放缓前沿AI研发。尽管公司业务正高速扩张，却主动呼吁“踩刹车”，这一反常举动在华尔街和硅谷引起了广泛讨论。

批评人士指出，Anthropic此举可能意在延续其“监管俘获”策略，即通过夸大AI风险向监管方施压，借此压制竞争对手，特别是开源模型的发展。

部分观点认为，Anthropic限制发布自家“Mythos”安全模型是一种营销策略：既展示技术实力，又以“安全”为由拒绝完全公开。

支持者则认为Anthropic对风险的警告是真诚的。宾大沃顿教授Ethan Mollick指出，AI实验室是多元混合体：既有资本与法务的商业逻辑，也有追求前沿的研究人员，更有对AI未来深切担忧的“哲学王”式人物。