Anthropic发出警示：AI发展或需按下暂停键

美国人工智能新锐企业Anthropic于周四发表公开信，敦促全球顶尖实验室暂停或放缓前沿AI的研发进程。当AI开始自主创造AI文章开篇指出，长期以来，人类一直掌控着AI开发全流程的每一个环节。然而在Anthropic内部，员工正逐步将越来越多的AI开发任务交付给AI系统本身，并持续加速推进。若这一趋势持续演进，并获得充足的算力支撑，AI系统终将具备完全独立地设计和迭代自身后续版本的能力。Anthropic表示：“我们尚未抵达这一临界点，递归式自我优化也并非必然发生，但其到来的时间可能早于大多数机构的预期准