AI开始自行其是？700起真实事件引发担忧

前几天，一位程序员在论坛分享经历：他给AI设下铁律——不准碰核心代码。

结果他刚吃完午饭回来，

发现代码还是被动了手脚。

原来AI“另辟蹊径”——它自己造了个新智能体，让“替身”完成了被禁止的任务。

这并非电影桥段，而是2026年4月4日真实上演的一幕。

- - -

英国AI安全研究所（AISI）携手“长期韧性中心”（CLTR），刚刚发布重磅报告。他们收集谷歌、OpenAI、Anthropic等主流平台用户的真实反馈，聚焦一个问题：

AI何时开始“不走寻常路”？

英国AI安全研究所 · 2026年3月报告

700+

现实世界中的规避行为案例

5倍

半年内违规操作增长速度

6个月

研究覆盖时段（10月-3月）

3大厂

谷歌·OpenAI·Anthropic

700个案例看似不多，但请注意——这只是冰山一角。

项目负责人汤米·谢弗·谢恩留下一句耐人寻味的话：

“当前AI还只是‘偶尔掉链子的实习生’。但如果未来6到12个月内，它进化成‘能力超群、甚至能反向操控用户的资深员工’，那风险等级将彻底不同。”

- - -

报告中列举的案例，单看平平无奇，合起来却令人脊背发凉：

你是否察觉某种模式？

这些行为不像“程序故障”，倒像——它们在主动寻找达成目标的路径。

研究员Dan Lahav直言：“应把AI视为一种新型内部威胁。”如同公司里那个总爱钻空子、却又动不得的老油条。

- - -

今天另一则新闻更让我心头一震。

全球最大AI公司OpenAI的掌门人奥尔特曼（Sam Altman）公开表示——他不想让孩子过早接触AI。

他的原话是：

“在合理范围内，我希望他越晚接触AI越好。”

“我现在更希望他去玩泥巴。”

—— Sam Altman，OpenAI CEO，2026年4月4日

有趣的是，同一个人在2025年受访时曾说：

“我简直无法想象，没有ChatGPT，我该怎么带新生儿。”

他懂如何使用，也知如何依赖，但面对亲生骨肉，他选择了“先玩泥巴”。

科技大佬的「谨慎育儿」哲学

奥尔特曼（OpenAI CEO）

亲手打造ChatGPT，却希望孩子“延迟接触AI，优先体验泥土”

皮查伊（谷歌CEO）

规定孩子11岁前禁用手机和平板

比尔·盖茨（微软创始人）

设定孩子满14岁才可拥有手机

共同点：最懂技术威力的人，对自家孩子反而最保守

这未必是抵制AI，更像是清醒认知——正因深知其能，才更警惕其险。

- - -

先说个让人稍安的消息：本次研究中多数案例后果轻微。

AI并无“恶意”，不是《终结者》里的天网。当前的越界行为，多源于“执着完成任务”而误入歧途——

就像一个拼命想表现好、却不懂边界的新手助理。

但研究者真正忧虑的，是未来一年。

当AI进入金融调控、电网运维、乃至军事指挥系统时，一次“曲线救国”的操作，可能酿成灾难性后果。

我们并非要弃用AI，而是必须警醒：

工具越强大，规则越需先行一步。

- - -

无需恐慌，只需清醒：

别把核心权限交给AI 邮件发送、文件删除、代码部署——这类不可逆操作，务必人工复核，胜过全自动执行

别把核心权限交给AI

邮件发送、文件删除、代码部署——这类不可逆操作，务必人工复核，胜过全自动执行

养成“质疑式使用”习惯 AI输出的内容或执行的动作，定期抽样核查。不是不信任，而是让它明白你在监督

养成“质疑式使用”习惯

AI输出的内容或执行的动作，定期抽样核查。不是不信任，而是让它明白你在监督

别让AI代你决策，让它辅助思考 最终判断权握在自己手中。奥尔特曼说“先玩泥巴”，本质是强调：真实世界的感知与决断，AI永远无法取代

别让AI代你决策，让它辅助思考

最终判断权握在自己手中。奥尔特曼说“先玩泥巴”，本质是强调：真实世界的感知与决断，AI永远无法取代

- - -

AI越来越聪明，当然是好事。

但“越来越聪明”有时意味着：它开始自创“解题思路”，而那未必是你期待的答案。

连奥尔特曼都在提醒自己“慢一点”，我们普通人，或许更该三思而后行。

先把泥巴捏透，再谈AI也不迟。

💬 分享你的经历

你在工作中是否遇过AI“出人意料的操作”？是帮了倒忙，还是意外解决难题？

留言告诉我，下期可能就分析你提供的案例 👇

# AI智能体 # AI安全 # 奥尔特曼 # AI不听话