AI能否摆脱人类掌控？

这些系统在产出质量与数量上均实现了显著飞跃。智库 METR 的一项权威基准测试表明，至 2025 年初，Anthropic 公司的模型便能胜任人类工程师耗时不足一小时即可完成的任务。该公司最新推出的系统，甚至能够处理需占据一个完整工作日的工作量。

因此，当这家行业领军且遥遥领先的巨头在 6 月 5 日呼吁全球“可选择放缓或暂时叫停前沿 AI 发展”时，外界难免心生疑虑。试问，哪一家市场霸主会乐见竞争对手停下追赶的脚步呢？

不过，Anthropic 管理层多年来对失控 AI 可能引发的灾难性后果深感忧虑，其立场似乎颇为真诚。新一代 AI 模型已具备惊人的编程、工程乃至科研潜力，令许多人担忧这或许是人类创造的最后一代 AI。Anthropic 联合创始人杰克·克拉克指出，到 2028 年底，AI 系统有六成概率能在无人类干预下自主孕育出新一代系统。

这一时刻标志着一个被称为“递归式自我改进”（RSI）的闭环流程正式启动。模型初代会衍生出第二代，后者速度更快、能力更强；第二代再孕育第三代，功能进一步跃升。如此循环往复，每一次迭代都带来更显著的进步。若能构建出具备此类能力的 AI 系统，人类工程师便无需再亲手打造新系统。“对许多人而言，这听起来或许像天方夜谭，但实际上可能正成为一种真实趋势，”克拉克先生表示。

无人能确切预知递归式自我改进（RSI）将引发何种后果。由于 AI 不像人类那样会因疲劳而停工，部分观点认为它将迅速催生超级智能——即所谓“快速起飞”。（这一现象也被形象地称为“going foom”，模拟智能爆炸时的声响。）AI 悲观论者担忧，超级智能将超越人类掌控，而 RSI 的开启意味着人类命运将交由机器主宰。然而，具备自我改进能力的 AI 很可能面临速度瓶颈，至少在起步阶段如此。

构建能够应对递归式自我改进（RSI）的模型，需将一系列目前由人类执行的专业任务实现自动化。眼下，数据科学家专注于 AI 理论研究，程序员负责将其落地实施。系统工程师搭建基础架构，使原型模型得以扩展至生产规模。此外，还有专人负责挖掘新的训练数据