Anthropic 倡议暂停尖端 AI 研发，警惕自主进化危机

Anthropic 正敦促全球顶级 AI 实验室放慢研发步伐，其理由在于 AI 系统迭代过于迅猛，恐在短期内实现无需人类干预的自主演进，从而给社会带来严重的安全隐患。

该公司周四通过官方博客文章指出，掌握暂停全球 AI 研发的主动权“大体上是有益的”，文中还公开了内部实验数据，以证实其旗舰大模型性能的飞速提升。

这篇由公司研究院主管玛丽娜・法瓦罗与政策负责人杰克・克拉克共同撰写的文章指出，当前模型的发展轨迹正趋向于递归式自我优化：即 AI 能够在无人协助的情况下自主升级能力。许多行业专家将这一技术拐点视为危险警报，担心其可能触发大规模的社会动荡。

两人在文中写道：“我们坚信，全球具备放缓或暂时中止前沿 AI 研发的备选方案，将造福世界，这让各类社会配套机制及 AI 对齐研究有机会追赶技术发展的步伐。”文章建议各国签署全球协议，制定前沿 AI 研发的限速规则，并建立核查机制，监督同行企业履行相关承诺。

博文强调，递归自主优化目前尚未成真，也非必然发生，“但其实现时间或许早于大多数机构的准备周期。”

这家自成立之初便主打 AI 安全理念的企业，长期遭受外界质疑：业界批评其推动各类监管政策，实则是为了拖慢竞争对手的技术研发进度。风险投资人、特朗普总统非正式顾问戴维・萨克斯便指责 Anthropic 管理层在推行一项“监管俘获议程”。

萨克斯在近期的一档播客节目中表示，这项在华盛顿推进的监管俘获议程，可能会促使美国出台禁令以限制开源大模型；而开源 AI 能让各类机构低成本地落地应用及自主二次开发。

长期以来，AI 行业在两大议题上存在显著分歧：现有模型距离通用人工智能（AGI，具备比肩人类的智能水平）以及递归自主优化究竟还有多远。

Meta 前首席 AI 科学家、行业先驱扬・勒昆等学者认为，基于大语言模型构建的前沿产品永远无法进化到媲美人类的智力高度。他承认 AI 是强大的工具，但将现有模型的智能水平类比为猫，并与那些担忧 AI 会给人类带来生存级风险的研究者展开了辩论。

责任编辑：江学思

新浪财经声明：此消息系转载自合作媒体，新浪财经登载此文出于传递更多信息之目的，文章内容仅供参考，不构成投资建议。

郑重声明：1.根据《证券法》规定，禁止编造、传播虚假信息或者误导性信息，扰乱证券市场；2.用户在本社区发表的所有资料、言论等仅代表个人观点，与本网站立场无关，不对您构成任何投资建议。用户应基于自己的独立判断，自行决定证券投资并承担相应风险。