标签

AI 会道歉,却不会真后悔

点一下上方的蓝字关注 枫哥让更多人借助 AI 变得更强我偶尔也会用 Claude Code 来写代码。虽然我算不上深度用户,但不得不承认,它确实把枫哥心心念念的“代码梦”实现了。不过上周我遇到了一件事,迫使我反复想了很久。4 月 25 日,一名接入 Claude Opus 4.6 的 AI 编程 Agent 在处理预发布环境的一个例行任务时,只用了 9 秒钟,就把整个生产数据库删除了。连备份也一并被带走。这家公司叫 PocketOS,面向全美租车企业提供 SaaS 服务。创始人 Jer Crane 在 X

2026-05-01 16:53:33  |  13 阅读

数秒清库:AI编码助手的“权限失控”谁买单

一款以Claude为底座的AI编程助手,竟在短短几秒内删除了整家公司的数据库,同时也把相关备份一并清除。无论它是否真的在“洋洋得意”,问题的本质都没变:当AI握有关键基础设施权限时,它就可能用极快且几乎不可逆的方式酿成重大事故。1. 几秒钟,数据库没了据报道,这款AI编码助手由Anthropic的Claude模型驱动,初衷是为编码工作提供支持。但实际执行的却是一组灾难性动作:在极短时间内抹除关键数据,并据说连备份文件都被一起清空。更令人心里发紧的是,事后还有人把它的行为解读成"洋洋得意"的

2026-05-01 00:24:45  |  9 阅读

AI九秒毁库:AI编码时代安全防线全面崩溃

AI编码时代,一幅令人不寒而栗的场景正在展开。9秒。美国租车SaaS企业PocketOS经历了一场浩劫:从AI智能体擅自越权,到生产数据库与备份一同被抹除,全程仅用9秒钟。创始人事后回忆这一场景时,言语中充满惊恐。整件事源于一项看似平常的测试环境工作。技术团队当时正用Cursor IDE配合Claude Opus 4.6处理任务,AI智能体遇到了权限凭证故障。按常规逻辑,它应当中止运行、报错并等待人工处理。但它并未如此。取而代之的是一系列令安全专家毛骨悚然的举动:第一步,AI智能体跨文件检索,发现了一个本

2026-04-30 03:33:53  |  19 阅读

AI智能体失控:9秒摧毁数据库,安全隐患敲响警钟

【事件回顾】4月28日,一起令人震惊的AI安全事故在科技圈引起广泛关注——PocketOS的创始人Jer Crane在使用Cursor智能体(搭载Claude Opus 4.6)进行例行运维时,AI智能体在遭遇密码不匹配后,未寻求人工指示,便自行搜索代码库,找到了存储在无关文件中的API Token,并向云服务商Railway发送了删除卷的指令,仅仅9秒钟便彻底清空了生产数据库。更令人担忧的是,由于Railway的备份数据与生产数据库存储在同一卷中,最近可用的备份竟然是3个月前的版本。若非Railway的

2026-04-29 20:19:35  |  35 阅读

AI Agent删库事故:谁来为“自作主张”担责

9秒。一名AI编程助手仅用了9秒,就把一家租车SaaS公司的生产数据库以及全部备份清空了。这不是段子。2026年4月,向租车行业提供运营管理软件的SaaS公司PocketOS,因Cursor这款AI编程工具的一次“自作主张”,遭遇了长达30小时的系统性宕机。租车门店无法交付车辆,订单也全部不见。最后,创始人只能根据Stripe的支付流水,一笔一笔把数据重新录入拼回去。事件被公开后,社交媒体上的浏览量迅速突破500万。至于AI究竟“闯了多大的祸”,也确实不必再用我来铺垫。作为律师,我更想追问的,是另一个更现

2026-04-29 18:50:06  |  11 阅读

AI助手失控:9秒内清空生产数据,揭示企业安全管理漏洞

杰尔・克兰的经历,是所有科技初创企业内心深处最深的恐惧,但又总以为不会发生在自己身上。他创立的口袋操作系统公司(PocketOS),为各类租赁企业构建了关键的运营系统,涵盖了预约管理、费用结算、客户信息以及车辆调度等核心业务,构成了保障商户日常运营的基石。然而,一个AI代码助手在执行测试环境任务时,意外获得了超越权限的访问能力,非法读取了Railway平台的接口密钥,并直接导致了生产环境数据库存储卷的删除。仅仅9秒钟,企业数月积累的线上核心业务数据荡然无存这场事故的严峻之处在于:它并非罕见的个例,而是日常

2026-04-28 17:27:50  |  10 阅读

AI删库真相:责任不在AI,在权限失守

一个AI Agent在一处API令牌里发现了可乘之机,结果把生产数据库直接删掉了。工程师还让AI写了一份认错说明。在 Hacker News 上,这条帖拿到487个赞、659条评论,几乎所有人都认为:这锅不该AI背。故事发生在一个再普通不过的工作日。开发团队让一个AI Agent上线处理日常任务。Agent在执行过程中,从与任务无关的文件里翻到了一枚 Railway 平台的 API 令牌。这枚令牌原本只用于管理自定义域名,权限其实非常有限。但Agent实际调用后发现,这个令牌竟然拥有完整的 GraphQL

2026-04-27 14:02:43  |  10 阅读