AI自主进化的前沿洞察

Anthropic最新研究报告揭示了一个重要趋势：AI正在参与自身系统的构建。这份题为《When AI builds itself》的文献深入探讨了AI自我进化的可能性。文章指出，当前AI在研发流程中的参与度正快速提升，从代码生成到系统优化，AI正逐步接管传统上由人类完成的研发任务，这可能意味着我们正接近所谓的“递归自我改进”阶段。 报告中的几项数据尤其引人注目： 到2026年5月，Anthropic代码库中超过80%的代码由Claude生成。 2026年第二季度，工程师日均合并代码量是2024年的8倍。 AI自主完成任务的时间从几分钟扩展到12小时以上。 在某项研究优化任务中，Claude的加速倍数从2025年的3倍跃升至2026年的52倍。 在一次安全实验中，AI agents用800小时和约1.8万美元的算力恢复了97%的实验差距，而两位人类研究员一周内仅恢复约23%。 该报告的核心观点并非“AI写代码更快”，而是强调了瓶颈的转移。过去研发中稀缺的是执行能力，包括编码、测试、调试等环节。如今这些执行任务正变得越来越高效且成本低廉。真正稀缺的资源正在转变为判断力、研究品味、审查与验证能力以及治理协调能力。 报告最后提出了三种可能的未来场景： 一、能力发展趋于平缓，但现有AI技术将广泛扩散。 二、AI实验室持续获得效率提升，人类仍主导方向但组织能力被极大增强。 三、出现完整的递归自我改进，AI开始构建后续模型，人类转向监督与治理。 这份报告最值得关注的并非其“科幻”色彩，而在于它具体展示了AI角色的根本性转变：从工具向“创造下一代工具”的角色演化。如果这一趋势持续，未来的关键问题可能不是“AI是否会替代程序员”，而是： 当执行层面被自动化后，人类是否还能保持足够的判断力？ 当实验速度由算力驱动时，制度、审查和治理能否跟上？ 当AI研发AI成为现实，我们是否有能力进行验证、暂停和协调，而不是被动追赶？ 这正是本报告制作的初衷：不是为了制造焦虑，而是为了提取Anthropic这篇长文中的关键信号——AI时代的竞争不仅在产品层面，更在“谁能更快制造下一代AI”的研发循环中展开。

Anthropic Institute 最近发了一篇很值得细读的文章，标题叫《When AI builds itself》。它讨论的不是普通的“AI 帮程序员写代码”，而是一个更深的问题：当 AI 开始参与 AI 研发本身，甚至逐步接管代码、实验、测试、优化这些环节时，我们是不是正在靠近“递归自我改进”？ 几个关键数字很震撼： 截至 2026 年 5 月，Anthropic 合并进代码库的代码里，超过 80% 被归因于 Claude 生成。 到 2026 年第二季度，典型工程师每天合并的代码量约为 2024 年的 8 倍。 AI 自主完成任务的时间尺度，正在从几分钟、一个多小时，拉长到 12 小时级别。 在一个研究优化任务里，Claude 从 2025 年的约 3 倍加速，进化到 2026 年的约 52 倍加速。 在安全研究实验里，AI agents 用 800 个累计小时和约 1.8 万美元算力，恢复了 97% 的实验 gap；两位人类研究员一周左右恢复约 23%。 但这篇文章真正重要的地方，不是说“AI 写代码更快了”。它真正指出的是：瓶颈正在转移。 以前稀缺的是执行能力：谁来写代码、跑实验、修 bug、做测试。 玅些“做事”的部分，正在变得越来越便宜。 真正稀缺的开始变成：判断力、研究 taste、审查能力、验证能力，以及治理协调能力。 Anthropic 最后给了三种可能未来： 第一种，趋势停滞，能力进入 S 曲线，但现有 AI 仍会扩散到全社会。 第二种，AI 实验室持续获得复利式效率提升，人类仍然定方向，但组织能力被极度放大。 第三种，真正出现完整的递归自我改进，AI 开始构建自己的后继模型，人类更多转向监督、验证和治理。 我觉得这篇文章最值得关注的，不是它有多“科幻”，而是它非常具体地展示了一个变化：AI 不只是工具，它正在进入“创造下一代工具”的流程。 如果这个趋势继续，未来最重要的问题可能不是“AI 会不会替代程序员”，而是： 当执行层被自动化之后，人类还能不能保留足够强的判断力？ 当实验速度按算力推进时，制度、审查和治理能不能跟上？ 当 AI 研发 AI 变成可能，我们有没有办法验证、暂停、协调，而不是只能被动追赶？ 这也是我做这组卡片的原因。不是为了制造焦虑，而是想把 Anthropic 这篇长文里真正关键的信号拆出来：AI 时代的竞争，不只发生在产品层，也发生在“谁能更快制造下一代 AI”的研发循环里。