Anthropic发出警示：AI发展或需按下暂停键
美国人工智能新锐企业Anthropic于周四发表公开信，敦促全球顶尖实验室暂停或放缓前沿AI的研发进程。当AI开始自主创造AI文章开篇指出，长期以来，人类一直掌控着AI开发全流程的每一个环节。然而在Anthropic内部，员工正逐步将越来越多的AI开发任务交付给AI系统本身，并持续加速推进。若这一趋势持续演进，并获得充足的算力支撑，AI系统终将具备完全独立地设计和迭代自身后续版本的能力。Anthropic表示：“我们尚未抵达这一临界点，递归式自我优化也并非必然发生，但其到来的时间可能早于大多数机构的预期准
Anthropic 倡议暂停尖端 AI 研发，警惕自主进化危机
Anthropic 正敦促全球顶级 AI 实验室放慢研发步伐，其理由在于 AI 系统迭代过于迅猛，恐在短期内实现无需人类干预的自主演进，从而给社会带来严重的安全隐患。 该公司周四通过官方博客文章指出，掌握暂停全球 AI 研发的主动权“大体上是有益的”，文中还公开了内部实验数据，以证实其旗舰大模型性能的飞速提升。 这篇由公司研究院主管玛丽娜・法瓦罗与政策负责人杰克・克拉克共同撰写的文章指出，当前模型的发展轨迹正趋向于递归式自我优化：即 AI 能够在无人协助的情况下自主升级能力。许多行业专家将这一技术拐点视为