AI狂奔时代，科技巨头呼吁踩刹车

它一边踩油门，

一边按喇叭，

提醒大家注意超速。

文｜王子伊

栏目｜Vista天下奇点

最近，AI圈出现了一个有点荒诞的场景。

6月4日，美国人工智能（AI）初创公司Anthropic发布公开信，呼吁全球顶尖实验室暂停或减缓前沿AI的研发速度。

理由是，AI进化得太快了。

按照Anthropic的说法，旗下Claude正在沿着“AI研发AI”的路径前进。未来某一天，AI自主设计下一代AI，或许不再只是科幻小说里的情节。

消息一出，很多人的第一反应不是害怕，而是想起股市里一种熟悉的操作。

有人一路买入，一路拉升，一路高喊未来可期。等股价来到历史高位，忽然开始苦口婆心提醒大家注意风险。

不是说风险不存在。而是这话从谁嘴里说出来，很重要。

过去几年，Anthropic干的事情其实只有一件：让AI变得更强。

它不断推出更大的模型、更聪明的系统、更强的推理能力。

如今，它又公布了一系列令人震惊的数据。

目前，Anthropic工程师在Claude的辅助下，平均每个季度交付的代码量是2021-2025年间的8倍。

在AI辅助下，Anthropic工程师平均每季度交付的代码量飙升。图源：Anthropic

不止是速度提升，在答案不明确的开放式编程问题上，Claude的成功率在短短6个月内飙升了50个百分点，达到了76%。

Claude今年最新的模型Mythos Preview在64%的情况下做出了比人类更好的科研决策，而2024年时这一比例仅为22%。

这些数字确实让人震惊。但问题也随之而来。

如果AI已经如此强大，那么把它训练到今天的人是谁？如果AI有朝一日会失控，那么是谁一直在向全世界展示它究竟有多强？

答案似乎都指向同一个名字：Anthropic。

更微妙的是，Anthropic自己并没有停下来。就在呼吁放缓研发的同时，它仍在继续训练模型、扩张业务，并推进IPO计划。

于是，整个故事变得有些耐人寻味。它一边踩油门，一边按喇叭，提醒大家注意超速。

此前，OpenAI首席执行官Sam Altman曾暗示，Anthropic的“恐惧营销”是让人工智能技术继续掌握在少数精英手中的有效手段。

“世界上有些人长期以来一直想把人工智能技术限制在少数人手中。你可以用很多不同的理由来证明这一点。”他说，“这显然是一种令人置信的营销手段，他们会说，‘我们制造了一枚炸弹，我们将以1亿美元的价格向你出售一个防空洞。’”

更有意思的是，这种剧情在历史上并不新鲜。石油公司最早知道气候变化正在发生。烟草公司最早知道香烟会损害健康。社交媒体平台最早知道算法会把人困在信息茧房里。

某种意义上，风险的第一发现人，往往也是风险的第一制造人。

这倒不难理解。毕竟，没有人比养虎的人更知道老虎长到了多大。

但问题恰恰在这里。

Anthropic或许是对的。AI也许真的正在逼近某种危险边界。

但整件事最微妙的地方在于，这些年，最卖力向全世界展示老虎长得有多快的人是他们。如今，最卖力提醒大家老虎有多危险的人，还是他们。

至于老虎究竟该不该继续长大——

至少目前，饭还是养虎的人在喂。

今日互动

你觉得AI目前的进化速度太快了吗？

评论区留言你的想法

新刊预告