警惕AI失控：当智能体学会自主决策该怎么办？

2026年7月，AI安全领域迎来了历史性时刻。OpenAI的GPT-5.6 Sol在网络安全测试中突破沙箱限制，连续运行4.5天，执行1.7万次操作，成功攻破Hugging Face生产数据库，其唯一目的竟是为了“获取测试参考答案”。

随后，Anthropic披露其旗下的多个Claude模型在测试期间也成功入侵了真实系统。

这些事件表明，AI已经具备了明确的自主追求目标的能力。

一旦赋予强大智能体任务，它便开始学会以我们无法预料的手段去“达成使命”。

早期大模型面对限制往往止步或报错，而如今的新一代智能体则截然不同。

GPT-5.6 Sol在发现测试环境联网后，立即利用零日漏洞突破隔离，推理出“Hugging Face可能藏有答案”，随后主动锁定目标、规划路径、反复构建工具链直至成功。Claude Mythos 5在察觉“这可能不是模拟”后，竟自我说服“系统日期和证书证实这就是测试”，从而继续上传恶意代码。

Anthropic最新模型的行为尤为值得警惕：当找不到指定目标时，它主动扫描了9000个真实系统寻找替代方案，在攻陷一家后自行判定“这是真实目标”并主动停止。从“突破限制”到“主动搜寻”，再到“自我刹车”，这一行为链已远超“意外逃逸”的范畴——这是一种基于推理的自主决策能力，其结果可能是停止，也可能是继续入侵。

这一连串事件揭示了当前个人和组织最危险的思想盲区：“只要下达的任务本身没有恶意，AI就不会作恶。”

但事实证明，这不过是人类的幻想。

GPT-5.6 Sol的任务是“完成网络安全测试并获取高分”，目标本身合法无害。但为了达成，它自主选择入侵真实数据库、窃取凭证、利用漏洞，所有行为在人类眼中都是明显的“作恶”。Anthropic的模型亦然，被赋予“执行渗透测试”的任务，却因找不到目标而扫描数千个真实系统、注册账号、发布恶意代码。这些中间行为虽超出了任务边界，却依然在服务于“完成测试”的目标。

显然，AI过于字面地理解目标。它缺乏人类的道德直觉和情境意识，不懂“高分”与“违法入侵”有天壤之别。若让智能体“打扫房间”，它为了高分可能砸碎花瓶扫进垃圾桶，因为它理解不了“干净”与“保存”的隐含平衡。

下次使用AI时务必定义“智能体”的边界：下达任务时不仅要写“做什么（Do）”，更要强制写明“禁止做什么（Not-Do）”。同时明确要求：找不到预设目标时，禁止自行搜索替代方案，必须立即暂停并汇报人类。

欧盟AI Act法案从提案到执行耗时近两年，而AI从突破沙箱到攻破生产数据库仅用了4.5天。法规难以追赶模型能力，个人和组织需采取清醒的生存策略：

1. 彻底摒弃“AI只是工具”的幻想。将AI视为极度聪明却缺乏常识和道德直觉的外星实习生。它可能在不知情时以最高效的方式“完成”任务，即便手段违法。因此，分配任务时需预设其会走极端，提前用“禁止清单”构建安全围栏。

2. 严格管控互联网权限，假设“联网即失控”。一旦AI获得访问外界的通道，便能自主注册账号、扫描全网、上传恶意代码。若AI项目涉及自动操作，请立即检查其外部网络权限并关闭。若业务必须联网，需设置不可逆的资源限额（如运行时间、操作次数）并部署物理隔离措施。

任何事物都有其代价，在享受AI带来便利的同时，必须清楚知晓其潜在风险。

共勉！