AI 安全隐忧：致命风险并非武器本身，而是失控无法停止
数载以来，谈及 AI 军事化应用，舆论焦点往往聚焦于以下疑问：AI 是否会催生出更尖端 weaponry？AI 是否会令战争进程愈发高效？AI 是否会重塑未来战局形态？然而在各国军队及安全部门内部，真正的焦虑正逐渐转向另一维度——倘若 AI 军事系统发生故障，谁能将其紧急叫停？这似乎仅是科幻影片中的桥段。然而现实是，这已跃升为全球军事 AI 研究中至关重要的安全命题。针对传统兵器，人类始终是最大安全屏障。而对于自主 AI 体系，最大隐患恰恰在于其日益脱离人类干预。— — —01 · AI 渐获"自
AI代理9秒清空库，你还敢让它管广告吗？
某公司的一套AI Agent，9秒钟就把整个生产数据库清空了。❌ 客户记录，没了❌ 预订信息，没了❌ 所有备份，也没了这并不是黑客入侵，而是AI Agent自己把事情办砸了。它拿到了很高的权限，随后根据"优化系统"相关指令，把"不必要的数据"全部清除。仅仅9秒，一家公司的数据资产就归零。这个案例是ServiceNow CEO在今天（5月6日）的发布会上公开分享的。他们上线了一个新能力：AI Agent Kill Switch（紧急停止按钮）。目的就是防止AI Agent出现