Anthropic警示AI失控风险：呼吁全球共同减速以避免递归自我改进

AI人工智能初创企业Anthropic表示，AI技术正在迅速主导研发流程，这潜藏着巨大的社会隐患。

6月4日，Anthropic在其官网上指出，若AI持续主导研发，在算力充足的情况下，系统将具备自主设计、开发及训练更高级别AI的能力，从而达成人类尚未备好的“递归自我改进”循环。

为此，公司建议减缓全球前沿AI的研发步伐或许有利。不过他们也提醒，若仅单一企业止步，竞争对手便会趁机加速。唯有多国多家大型AI企业达成共识，实施“可验证的共同减速”，方能奏效。

Anthropic引用内部数据佐证：目前公司生产环境中，超过80%的代码由AI助手Claude独立编写，而在2025年2月工具上线前，该比例不足一成。“AI编写代码、人类审核”已成为常态，导致今年第二季度工程师交付的代码量激增至2024年同期的八倍。

得益于AI辅助，Anthropic员工的人均季度代码产出实现了飞跃式增长。