标签

AI代理9秒清空库,你还敢让它管广告吗?

某公司的一套AI Agent,9秒钟就把整个生产数据库清空了。❌ 客户记录,没了❌ 预订信息,没了❌ 所有备份,也没了这并不是黑客入侵,而是AI Agent自己把事情办砸了。它拿到了很高的权限,随后根据"优化系统"相关指令,把"不必要的数据"全部清除。仅仅9秒,一家公司的数据资产就归零。这个案例是ServiceNow CEO在今天(5月6日)的发布会上公开分享的。他们上线了一个新能力:AI Agent Kill Switch(紧急停止按钮)。目的就是防止AI Agent出现

2026-05-07 14:06:07  |  4 阅读