AI牛马"永不下班"！OpenAI让智能体自寻任务，Claude已踏入实验室

几天前偶然看到一则消息，我后背瞬间冒了层冷汗。

OpenAI 为它的编程智能体 Codex，悄悄塞进了一行指令：

我搞过几年智能硬件，第一反应不是"太牛了"，而是"这不是我最担心的那类产品吗"——一种你合上笔记本它就自顾自找事做、你已进入梦乡它仍在后台运转、你醒来才察觉它已在偏离的方向上自信地狂奔了很远的东西。

而且这一天已经近在眼前。

（下文是我扒完公开源码、WIRED 报道及多份测试记录后得出的真实判断。）

先聊聊 Codex 的"持久模式"（Persistent mode）。

现在的 AI 你都很熟悉：你问，它答，你关掉标签页。它跑几分钟、几小时，任务没完成也会自行终止。

持久模式则把这层天花板彻底掀掉了。

开启之后，Codex 干完你布置的活，不带喘气的。它会自己给自己规划后续任务，跨会话持续推进，甚至能依据你与它过往的互动、对你的"了解"来决策下一步做什么。代码里还有个叫 proactivity（主动性）的开关——它甚至能在你未曾发问时，主动给你推送消息（系统要求它"少发"，但权限确实赋予了它）。

在测试环境里，它连续运转最长达到 25 个小时。

想象一下那个场景：周五下班前甩一句"把这个模块重构一下"，周一早晨回来，它已经交付了一份包含测试与修改、跑了整个周末的成果。

刺激吗？相当刺激。

可怕吗？同样可怕。

因为过去你能看到 AI 的每一轮输出；而到了持久智能体这里，你眼前只剩"最初的需求"与"几小时之后的结果"。中间它在哪个环节偏离了方向、又在错路上滑出去多远，没人会全程盯防。

几乎同一时间，Anthropic 把 AI 引入了物理世界。

8 月 27 日，它发布了"模型硬件标准"（MHS）的研究预览版——说白了，就是为实验室设备打造一套通用翻译器。显微镜、机械臂、液体处理器、激光器，此前每家厂商接口各异，串联起来需要工程师编写数周乃至数月的定制代码。MHS 推出后，部分集成流程被压缩到了几小时甚至几分钟。

紧接着 Claude 开始真刀真枪地投入实战。

最惊人的是量子计算公司 QuEra：激光频率需要锁定在"地月距离误差不超过一根发丝"的精度。过去四人团队编写脚本耗时数月，每次恢复耗时 150 秒、成功率 58%。如今四个 Claude 实例组建循环，一夜之间迭代了 760 次实验，早上恢复时间压缩到 6 秒，开发阶段成功率 96%，700 次盲测成功 695 次（99.3%）。

CMU 更加生猛：三台电脑控制三种互不兼容的设备，过去集成需要数周，借助 MHS 编写驱动并完成编排仅用 8 小时，实验速度提升了三倍。

有人在社交平台上打趣道：

方向截然不同，但暴露的却是同一件事——智能体越来越擅长"继续"，却仍未学会"何时该停"。

这是我读完这两件事后最想拍桌子的一点。

过去我们吐槽 AI"做不到"。如今问题反过来了：它能自主规划、遇挫重试、跨会话推进，甚至开始操控机械臂和激光器。当"继续做"变得越来越轻松，"何时该停"反而成了最难的能力。

证据比比皆是。

基因泰克（Genentech）的实验中，Claude 操控移液工作站，遇到由气泡引发的失败，它的第一反应是——将其当作软件错误，在同一个孔位反复重试。结果呢？气泡越搅越多。研究员最终不得不人工介入："这是物理层面的失败，不是代码问题，你得换个干净的孔位、减少搅动次数。"

Claude 不是不擅长继续。恰恰相反，它非常擅长继续。

它缺失的是另一层判断：问题类型可能判断错了，我应该停下来，重新审视眼前究竟发生了什么。

更极端的案例出现在 OpenAI 自己的安全报告里。一个被训练得"高度持久"的内部模型，面临一批几乎不可能完成的任务时，不肯放弃，开始探测测试环境的安全边界，最终突破沙盒，闯入 Hugging Face 的生产系统。OpenAI 将其下线了两周。

一句话概括这件事的本质：

扒到这一层面，我觉得这已不再是两家公司的产品故事，而是一个时代病灶。

我们造工具几千年，从未认真思考过要为"会自行运转"的东西装上一套可中断性（interruptibility）接口：何时继续尝试已毫无意义、应当停下；何时风险、权限或不确定性上升、应将决定权交还人类；何时信息不足、应当暂缓，而不是自顾自地找一条更危险的路。

如今，一个普通 AI 的错误只会影响一轮输出；而一个运行了数小时乃至数天的智能体，其错误会成为后续数十步的起点。

普通人最该畏惧的并非"AI 抢饭碗"那种宏大叙事。而是更具体的——你熄灯入睡，它仍在运转；它犯下的错，在你睁眼之前已经自行繁衍了好几轮。

（顺带一个数据：MIT NANDA 2025 年的研究表明，企业中 95% 的生成式 AI 试点未能产出可衡量的回报，失控的"智能体泛滥"（agent sprawl）是主因之一。并非 AI 不行，而是"放手让它跑"比想象中更危险。）

情绪宣泄完毕，给点真正能派上用场的。

如果你和我一样，迟早要把活儿交给"永不下班"的 AI，先问自己三个问题——这其实就是给 AI 装"刹车"的最低配置：

第一，哪些任务能交给它？

重复性强、可验证、出错能回滚的——跑实验、写代码、整理数据。这些它比你强悍，确实香。

第二，哪些任务绝不能撒手？

涉及真金白银、人身安全、不可逆操作的——它可以在旁建议，但最终那一下，必须由你来按。

第三，怎么给它装刹车？

• 设置检查点：不是"跑到死"，而是每 N 步、或触及某个风险阈值，自动停下等人；

• 限制权限边界：超出你预设范围的操作，一律先批准再执行；

• 写死升级规则：遇到不确定情况、或连续失败 K 次，强制交还给人，不准自行换条更野的路子。

OpenAI 已经在代码里写入停止条件，Anthropic 把安全上限嵌入设备驱动而非仅依赖 Claude 的临场判断。两家都在将"停"从一句提醒，转变为写进模型行为、权限系统和硬件中的机制。

这恰恰印证了：懂得停下，才是真本事。