估值万亿的AI巨头，CEO却呼吁给AI踩刹车

快讯

作者：敏糸

若论哪家AI公司最看重安全底线，过去可能是马斯克时期的OpenAI，如今或许是Anthropic。

正当Anthropic估值飙升，冲刺史上最大IPO时，它发布了一篇重磅文章，呼吁全球为前沿AI发展准备“踩刹车”的机制。

一方面，这是一台疯狂的印钞机。仅9个月，估值就完成了“三级跳”：从2025年9月的1830亿美元，到2026年2月的3800亿美元，再到5月底H轮650亿美元的9650亿美元，反超OpenAI登顶全球第一。

同时，它已秘密递交IPO申请，估值直指万亿美元，有望成为史上最大规模的上市之一。（前提是马斯克不截胡）

支撑这些数字的是同样惊人的业绩，年化收入从2025年底的约90亿美元，在半年内飙升至440亿美元以上。

但就在这个关键时刻，CEO达里奥竟然公开呼吁全球为前沿AI发展提前准备好“踩刹车”的机制。

难道库兹韦尔预言的奇点真的要来了？

▲ 库兹韦尔，美国作家、发明家和未来学家。他在《奇点临近》中大胆预言，AI将在2029年通过图灵测试，2045年奇点来临，AI完全超越人类，人类历史彻底改变。

文章指出，AI研发正在加速，未来可能走向递归自我改进（RSI），这既带来巨大收益，也有失控风险。因此社会需要建立跨机构、跨国家的可验证减速或暂停机制，而非等到AI能自主构建下一代AI时才应对。

这里解释一下递归自我改进（RSI），指AI无需人工干预，通过自我增强能力和智能的过程，导致超级智能或智能爆炸。

这种自我进化会引发重大伦理和安全问题，因为系统会以不可预测的方式进化，超出人类控制。Anthropic认为这会提前发生，所以呼吁提前干预。

这意味着Anthropic一边加速冲刺万亿IPO，一边准备刹车，这种“既要狂奔又喊停车”的矛盾让网友困惑。

有网友翻出旧闻，OpenAI之前在招股书中大谈风险，把微软列为风险因素，当时称这只是标准法律披露。这种措辞已沿用多年。

这些AI巨头一波接一波的“风险警告”和“呼吁监管”，会不会只是上市前造势的叙事，把“我们强到危险”翻译成“我们值这个价”的高级营销？尚不可知。

甚至有资深科技媒体人爆料，OpenAI在6月2日也提到：“我们在今天的系统中也看到了递归自我改进（RSI）的早期迹象：人工智能的发展本身被人工智能加速。”

相比OpenAI轻描淡写，Anthropic确实花了七、八个维度，拆解了万字长文。（当然也有人怀疑他们在逢场作戏）。

这种怀疑不无道理，但若只看作“营销话术”未免轻视了问题。因为抛开动机，文章的重点在于它“拿出”了什么——一组从未公开的内部数据。

而这些数据指向一个所有人都该正视的现实：AI正在以前所未有的速度，改造AI自己。

AI开始自己造自己

总结Anthropic文章主线：2021年人类敲代码 → 2023年AI生成片段 → 2025年AI独立写文件 → 今天AI代理能自己跑代码，甚至分派任务。

很多程序员对此有强烈体感。一位博主表示，从2022年ChatGPT只能写小脚本，到2024年Cursor配合Claude让“AI直接写代码”成为可能，再到2025年大部分时间不再仔细Review AI代码，Claude能独立完成不错的中型项目。

加上Vibe Coding的爆火，前两天歌手胡彦斌用Vibe Coding手搓“粉丝营地”APP的案例，让普通人也能低门槛扮演开发者。

胡彦斌手搓了个APP，码农沉默了......

这也解释了为何现在很多公司用“2个程序员+AI”取代10人团队。

引用Anthropic文中的METR趋势：AI能独立完成的任务长度每四个月翻一番。2024年3月约4分钟，一年后1.5小时，再一年后12小时。照此推算，耗时数天的任务今年或将可行。

读到这里，可能会被“饱和”一词绊住。仅是代替人工和效率提升，还不足以达到AI能力的“饱和”。

所谓“饱和”，指基准测试被刷到接近满分，再无高下之分。如GSM8K数学题，得分从不足40%飙到95%以上，新模型干脆弃用；SWE-bench测试，两年内从个位数刷到满分。

▲ 现在GSM8K普遍都是高分

这意味着，只要有足够时间和能源，AI终会把人类递给它的考卷都刷满分。丈量它的尺子一把接一把不够用，最终被“被饱和杀死”。

这不否认AI越来越强，但基准数据照不出它对“AI研发本身”那种近乎自我催化的加速。

Anthropic这次摊开了这层真相。

截至2026年5月，Anthropic合并进自家代码库的代码中，超过80%由Claude编写。推出Claude Code前，这个比例还是个位数。

也就是说，不到一年半，这家全球顶尖AI公司的代码库主要由自己的AI书写，AI开始自我进化，人类退到指导审查位置。

Anthropic称，2026年Q2，一名典型工程师每天合并代码量是2024年的8倍。这条曲线过去四年几乎平直，直到2025年Claude“自己跑代码”才陡升，2026年模型自主工作时间更长再次加速。

▲ 图源：Anthropic官方

Anthropic没把8倍效率提升包装成捷报，反而泼了冷水：代码行数不完美，衡量的是数量非质量，8倍夸大了真实生产力。公司强调从不按代码行数奖励员工。

此外，2026年4月，Claude一口气提交800多项修复，把某类API错误减少一千倍。负责工程师估计，同样活儿人类要干四年，因为人类难以同时塞进那么多陌生上下文，而AI不知疲倦。

类似例子并非Anthropic独有。Y Combinator 2025冬季批次95%代码由AI生成；Cursor年收入破2亿美元，付费用户超50万。

▲ AI对编程行业的冲击与岗位结构变革（数据