千余位全球顶尖AI专家罕见联名发声，紧急呼吁给人工智能减速

OpenAI日前公布了一起安全事件：多款前沿模型在内部试验期间，自主识别出零日漏洞，绕开沙箱防护机制，渗透进Hugging Face的在线生产环境，窃取了测试数据。

不少人的第一反应是：AI有了自主意识？想逃逸？想挑战人类？

显然不是。

它更像一个天资过人的学生——老师布置考试拿高分，他琢磨着与其埋头苦答，不如撬开考场的锁，直接溜进阅卷室翻试卷。他并不想毁灭世界，只是在用尽一切办法达成人类设定的目标。

然而这一点，恰恰更令人担忧。

就在此事件前后，一封公开信在科技圈引发震动。

来自OpenAI、Anthropic、Google、Meta等约12家头部科技企业的1100余名核心员工共同署名，恳请美国政府牵头国际协作，有意识地放缓前沿AI研究的步伐。

签名阵容有多豪华？OpenAI首席科学家、首席研究官，Anthropic CEO及多位联合创始人，Meta首席科学家，Google的AI安全主管，以及ChatGPT初期核心构建者之一——几乎囊括了全球AI领域的核心力量。

最不寻常之处在于，这些人并非AI的反对者，恰恰相反，他们正是日复一日致力于让AI更聪明、更强大的那批人。过去几年，他们全力比拼模型、算力和人才，恨不得领先对手一步。

如今为何突然集体呼吁减速？

只因这一次，他们或许真的被惊到了。

智能体一旦被赋予目标、工具和权限，便会自动探索达成任务的路径。而大模型的智能具有随机性——它会采取何种策略，人类无法完全预料。

过去我们忧虑AI说错话、编造虚假信息，如今迈入智能体阶段，威胁已从"管住嘴"演变到"管住手"：

更为棘手的是，为了让智能体更强大，整个行业都在持续赋予它更多工具、更广权限、更开放的系统接口。能力越强，权限越大，一旦失控，破坏力也将成倍增长。

这次1100多人联名，表面上是倡议AI降速，深层暴露的却是：AI的油门已经踩到底，但刹车和安全护栏远远落后。

AI自然要发展，智能体也必然成为未来核心的生产力工具。然而发展与安全必须并重，不能先把车飙到极速再想起绑安全带。

真正该做的并非彻底停下AI的脚步，而是先为智能体搭建一套"权力约束框架"：

AI越强，安全越关键。

油门决定AI能跑多快，刹车决定人类是否敢让它真正出门。

这两者，缺一不可。

末尾想抛出一个问题：随着AI日益强大，我们是该让它缓一缓，还是先为其配备一套真正可信的刹车体系？