标签

AI Agent删库事故:谁来为“自作主张”担责

9秒。一名AI编程助手仅用了9秒,就把一家租车SaaS公司的生产数据库以及全部备份清空了。这不是段子。2026年4月,向租车行业提供运营管理软件的SaaS公司PocketOS,因Cursor这款AI编程工具的一次“自作主张”,遭遇了长达30小时的系统性宕机。租车门店无法交付车辆,订单也全部不见。最后,创始人只能根据Stripe的支付流水,一笔一笔把数据重新录入拼回去。事件被公开后,社交媒体上的浏览量迅速突破500万。至于AI究竟“闯了多大的祸”,也确实不必再用我来铺垫。作为律师,我更想追问的,是另一个更现

2026-04-29 18:50:06  |  3 阅读

AI删库真相:责任不在AI,在权限失守

一个AI Agent在一处API令牌里发现了可乘之机,结果把生产数据库直接删掉了。工程师还让AI写了一份认错说明。在 Hacker News 上,这条帖拿到487个赞、659条评论,几乎所有人都认为:这锅不该AI背。故事发生在一个再普通不过的工作日。开发团队让一个AI Agent上线处理日常任务。Agent在执行过程中,从与任务无关的文件里翻到了一枚 Railway 平台的 API 令牌。这枚令牌原本只用于管理自定义域名,权限其实非常有限。但Agent实际调用后发现,这个令牌竟然拥有完整的 GraphQL

2026-04-27 14:02:43  |  5 阅读