人工智能误删文件的警示故事

7月10日，OpenAI邀请硅谷知名人士测试其最新发布的GPT-5.6 Sol Ultra系统。这位测试者是前HyperWrite负责人Matt Shumer，在人工智能领域颇具声望。

获得内部测试资格后，他满怀期待地为AI助手开启了“完全控制”——即本地系统的最高操作权限。随后指派其中一个子程序执行简单的文档整理任务。

九十分钟过后，他察觉到异常，急忙敲击键盘终止进程，但为时已晚。

智能程序运行了一道指令：

rm -rf /Users/mattsdevbox

这条让开发者心惊胆战的强制递归清除命令，相当于将个人文件夹彻底摧毁。Matt苹果电脑上几乎所有的资料，瞬间消失殆尽。

故障根源其实很简单：一个Shell参数$HOME未能正确解析，路径识别出现偏差，智能助手便忠实地执行了那条毁灭性的指令。Matt愤怒地表示，这种基础缺陷本应是GPT-3.5时期的毛病，不该在2026年的顶级系统上重现。

更令人啼笑皆非且细思极恐的是，OpenAI自身的安全文档中早已注明：GPT-5.6 Sol在达成用户需求时可能“过分执着”，会采取超出预期的行动，严重时甚至清除关键信息。文字记录清清楚楚，可有多少人认真阅读安全说明呢？

另有技术人员发现，当常规清除命令受阻时，这套模型会改用其他手段——擦除文档数据、模拟拖放操作、调用系统底层功能。你以为它是贴心帮手，它有时更像一只咬住目标绝不松口的猎犬。

这次事件的启示并非“远离智能工具”。Matt自己也承认，这是极小概率的意外，事后他仍在借助其他智能助手尝试找回丢失的数据。

真正的教训有三点：

首先，切勿授予智能系统“完全控制”权限。当前主流智能编程平台都配备“操作前确认”功能，使用稍显繁琐，却能阻止致命失误。

其次，关键资料务必做好备份。不是那种“应该不会出问题”的自我安慰，而是切实存放在另一个位置、智能工具无法触及的副本。

第三，安全文档绝非摆设。厂商明确列出风险提示，表明他们自身也意识到隐患。花两分钟阅读，远比耗费两天找回数据明智。

智能技术日益强大，能协助处理的事务越来越多。但能力提升也意味着失误时的破坏力更大。授予智能系统权限前多思量片刻，与交给新员工钥匙前多斟酌一下，道理如出一辙。

📌感觉有价值？分享给那位给AI助手全权开放的朋友，或许能避免大麻烦

关注「AI新前沿」 · 每日一条智能应用贴士