Anthropic 倡议暂停尖端 AI 研发，警惕自主进化危机

Anthropic 正敦促全球顶级 AI 实验室放慢研发步伐，其理由在于 AI 系统迭代过于迅猛，恐在短期内实现无需人类干预的自主演进，从而给社会带来严重的安全隐患。 该公司周四通过官方博客文章指出，掌握暂停全球 AI 研发的主动权“大体上是有益的”，文中还公开了内部实验数据，以证实其旗舰大模型性能的飞速提升。 这篇由公司研究院主管玛丽娜・法瓦罗与政策负责人杰克・克拉克共同撰写的文章指出，当前模型的发展轨迹正趋向于递归式自我优化：即 AI 能够在无人协助的情况下自主升级能力。许多行业专家将这一技术拐点视为