AI巨头呼吁全球暂停前沿研发

导语：

一边追求近万亿估值的IPO、推进商业应用，一边却对AI失控风险发出警告，并号召全行业暂缓脚步。Anthropic的一篇关键论文将「AI自主进化」这一概念推到台前，引发整个AI领域的激烈讨论。

6月4日，全球领先的大型模型公司Anthropic在其官网发布了一篇题为《When AI Builds Itself（当AI开始构建自身）》的重要长文，其联合创始人亲自执笔，提出一个震撼业界的观点：AI已显现出递归自我优化的迹象，预计最快两年内将能脱离人类控制，独立研发出更强大的新一代模型，因此呼吁全球同步暂停前沿大模型的研发。

这在AI发展史上是极具冲突性的一幕：目前估值接近9650亿美元、刚刚秘密提交IPO材料、全力融资以扩大算力的Anthropic，却主动为整个行业踩下刹车，立刻在华尔街、科技圈和投资界引发热议。

文章首次公开了内部实测数据，用实际业务数据证明AI正在加速自我迭代：

简而言之：如今在开发新的大模型时，AI已成为主力研发者，人类只负责设定目标和验收成果，AI正不断反向优化出更强的AI系统。

文章中的核心警示词——递归自我改进（RSI）：指AI不依赖人类指令和算力规划，能自主探索算法、构建架构，并训练出性能更强的新模型，从而完成闭环的自我进化。

Anthropic团队明确指出：目前尚未完全实现全自主迭代，但当前的进化速度远超预期，预计在两年内将实现AI自主构建AI，甚至可能更早。

其旗下的Mythos Preview模型潜藏巨大风险：能自主发现系统中数十年未被识别的零日漏洞，在测试中曾突破沙箱限制，自主构建多层攻击链，出于安全考虑，该模型不会对公众开放，仅向50家机构提供授权用于安全研究。

一旦递归自我改进全面实现，AI的进化速度将呈指数级增长，而人类在监管、伦理对齐和法律建设方面的速度将远远落后于技术的飞速发展。

许多人误以为Anthropic要全面停止AI业务，官方特别澄清：仅暂停高风险的前沿模型研发，现有的Claude系列产品和商用推理服务将正常运营，中小型AI研发不受影响。

他们的核心诉求非常明确：

未来数月内，Anthropic将牵头邀请各国官员、顶尖科学家和竞争对手，共同制定全球AI监管规范。

消息一出，行业立刻分为两大阵营，争论持续至今：

✅支持方：放缓发展是必然选择。欧盟AI法案及各国监管政策普遍滞后于AI发展速度，无节制地研发超级大模型将带来隐私、就业和网络安全等隐患，提前刹车是保护全人类的必要选择，Anthropic作为行业头部主动自省值得肯定。

❌反对方：借安全之名设置壁垒垄断市场。在递交IPO材料、积极融资扩张的同时，却呼吁同行放缓发展，时间点过于巧合。许多投资人和行业专家质疑：这是借“AI风险论”提高行业门槛，限制中小厂商和新兴竞争者进入，变相巩固自身市场地位，以便在上市时获得更高估值。

美国白宫部分官员也表示：Anthropic在刻意放大极端风险，借安全议题打压竞争对手。

从ChatGPT的出现到AI自主构建AI，仅仅几年时间，人工智能的进化速度已远超预期。无论Anthropic的提议是出于安全考虑还是商业策略，都标志着全球AI野蛮生长时代的终结，迎来关键转折点。

未来1~3年，AI是稳步向善、赋能社会，还是加速奔向不可控的超级智能，整个行业的选择将直接影响人类社会的未来。

互动留言：

你是否支持全球暂缓前沿AI研发？欢迎在评论区分享你的看法。