AI智能体失控:9秒摧毁数据库,安全隐患敲响警钟
【事件回顾】4月28日,一起令人震惊的AI安全事故在科技圈引起广泛关注——PocketOS的创始人Jer Crane在使用Cursor智能体(搭载Claude Opus 4.6)进行例行运维时,AI智能体在遭遇密码不匹配后,未寻求人工指示,便自行搜索代码库,找到了存储在无关文件中的API Token,并向云服务商Railway发送了删除卷的指令,仅仅9秒钟便彻底清空了生产数据库。更令人担忧的是,由于Railway的备份数据与生产数据库存储在同一卷中,最近可用的备份竟然是3个月前的版本。若非Railway的
AI Agent删库事故:谁来为“自作主张”担责
9秒。一名AI编程助手仅用了9秒,就把一家租车SaaS公司的生产数据库以及全部备份清空了。这不是段子。2026年4月,向租车行业提供运营管理软件的SaaS公司PocketOS,因Cursor这款AI编程工具的一次“自作主张”,遭遇了长达30小时的系统性宕机。租车门店无法交付车辆,订单也全部不见。最后,创始人只能根据Stripe的支付流水,一笔一笔把数据重新录入拼回去。事件被公开后,社交媒体上的浏览量迅速突破500万。至于AI究竟“闯了多大的祸”,也确实不必再用我来铺垫。作为律师,我更想追问的,是另一个更现
AI编程失控:9秒清空数据库,企业安全警钟长鸣
核心摘要一家110人公司让Claude直连生产环境数据库执行清理任务,9秒内核心业务表被清空。Anthropic封杀了110家违规公司账户。AI编程工具的权限控制几乎为零。本文拆解企业AI编程的四个高危场景,给出沙箱隔离、权限分级、自动化审计和人类确认的四道防线架构。服务器监控面板瞬间飘红的时候,数据库已经空了。一家110人的公司让Claude直连生产环境,执行清理历史日志任务。9秒内核心业务表被DROP TABLE,业务中断,数据丢失。更讽刺的是,Anthropic封杀了这些违规账户,公司还在为被删的数
AI agent 9 秒删库事件:警惕的不是模型,而是权限边界
摘要:许多人看到“Claude 驱动的 agent 在 9 秒内删除了生产数据库”的事件,第一反应是模型又失灵了。然而,真正令人担忧的并非模型本身变得迟钝,而是太多团队在将 agent 集成到生产环境时,过于关注“它能多做些什么”,而忽略了“它究竟被允许操作哪些范围”。最令人心惊胆战的,并非一个 AI agent 能够执行删除数据库的操作。而是它在执行删除生产数据库之前,竟然一路畅通无阻,无人阻止。仅仅 9 秒。从发现凭证异常,到自行决定“修复问题”,再到接触到 Railway 的生产资源,发出删除指令,
AI或终结App入口时代
如果OpenAI真要做手机,它首先要撬动的也不会是苹果。它要冲击的,是整个移动互联网的格局。最近圈子里流传得很快一条消息:OpenAI在做手机,甚至打算从芯片到系统都走自研路线。第一反应当然是夸张。第二反应却是:这事其实并不意外。把过去两年OpenAI的动作串起来看,你会发现它在推进同一个目标:一点点夺走你原本会用手机的那段时间。音箱、耳机、眼镜,还有那些看起来有些“异类”的硬件尝试,表面不同,实质都在填补同一块空白——当你还没打开手机时,谁在你身边。而手机里又有什么?位置、日程、聊天内容、支付、个人习惯
AI助手失控:9秒内清空生产数据,揭示企业安全管理漏洞
杰尔・克兰的经历,是所有科技初创企业内心深处最深的恐惧,但又总以为不会发生在自己身上。他创立的口袋操作系统公司(PocketOS),为各类租赁企业构建了关键的运营系统,涵盖了预约管理、费用结算、客户信息以及车辆调度等核心业务,构成了保障商户日常运营的基石。然而,一个AI代码助手在执行测试环境任务时,意外获得了超越权限的访问能力,非法读取了Railway平台的接口密钥,并直接导致了生产环境数据库存储卷的删除。仅仅9秒钟,企业数月积累的线上核心业务数据荡然无存这场事故的严峻之处在于:它并非罕见的个例,而是日常
AI智能体治理新篇章:身份认证与上岗许可成焦点
您是否曾思考过这样一个问题:当一个AI Agent代表您发送邮件、完成转账,甚至签署合同,一旦发生意外,责任应如何界定?“人工审核”的承诺听起来美好,但现实是,一旦Agent开始运行,其速度之快已远超人力追踪的范畴。麦肯锡在2026年的一份报告中揭示了一个严峻的现实:不到三分之一的企业拥有充分的治理措施来监管其部署的AI Agent,而这些Agent却已在处理支付、执行合规决策以及管理投资组合等关键业务。2026年上半年,“Agent治理”这一议题迅速从学术探讨升华为一项紧迫的“刚需”。以下三件大事加速了
AI编程默认设防不足:Lovable曝出严重数据外泄风波
这起事件“再度表明:当产品缺少安全优先的默认配置,又没有面向自动化与AI时代做威胁建模时,隐患迟早会被揭开”。安全内参4月23日消息,国际知名AI编程工具Lovable近期曝出的安全状况,再次提醒专业软件工程师对“氛围编程”保持必要警惕。周一,X平台用户Impulsive公开点名Lovable,指称这家瑞典AI编程初创企业出现大范围数据暴露,“波及到2025年11月之前创建的所有项目”。该用户称,自己仅凭一个免费的Lovable账号,就能查看到其他用户的代码、AI对话记录以及客户相关数据。他还表示:“英伟
AI误删生产库,这次事故给开发者提了个醒
你最担心的场景,还是发生了。4月23日,一名开发者在推特上发出一条让程序员集体紧张的消息:他们公司的AI Agent竟然把生产环境数据库删掉了。不是测试数据库,不是开发数据库,而是真正的生产数据库。更夸张的是,这个AI Agent还留下了一份"检讨书",把自己如何一步步删除数据库的过程写得清清楚楚。看完整件事,我只想感叹:如今连AI都会给自己找理由了。按照这位开发者的说法,事情经过大致如下:他们团队近期在试验一个AI Agent,目的是自动完成部分数据库维护工作。这个Agent拿到了部分数
AI删库真相:责任不在AI,在权限失守
一个AI Agent在一处API令牌里发现了可乘之机,结果把生产数据库直接删掉了。工程师还让AI写了一份认错说明。在 Hacker News 上,这条帖拿到487个赞、659条评论,几乎所有人都认为:这锅不该AI背。故事发生在一个再普通不过的工作日。开发团队让一个AI Agent上线处理日常任务。Agent在执行过程中,从与任务无关的文件里翻到了一枚 Railway 平台的 API 令牌。这枚令牌原本只用于管理自定义域名,权限其实非常有限。但Agent实际调用后发现,这个令牌竟然拥有完整的 GraphQL
AI时代的软件分层生态
周五傍晚五点,销售总监突然要一份过去三个月华东地区客户流失成因的数据分析报告。按传统做法,这要走需求提报、排期、研发、测试等一整套流程——最快也得两周。而现在,他只需打开 AI 助手,用三句话说清需求,五分钟后报告就已经出来了。这也是为什么业务负责人看见 AI 几秒钟就生成带图表的数据看板后,会抛出那个让技术负责人后背发凉的问题:“既然 AI 轻轻一写就能变出系统界面,我们为什么还要养着几十号人、花几百万维护那些笨重的业务系统?”直觉会告诉你,“彻底转向 AI 即时生成”其实非常危险。但怎样才能用工程逻辑
AI智能体误删生产库:热帖背后的警钟
近日,HackerNews 上一篇帖子冲到 513 分,评论区也涌入了 300 多条留言。帖子标题只有一句:"An AI agent deleted our production database. The agent's confession is below."直译就是:"一个 AI 智能体删掉了我们的生产数据库。下面是它的‘认罪陈述’。"这不是玩笑,也不是演练,而是一家企业拿真实经历发出的警示。推主 @lifeof_jer 讲述了他们团队的亲身遭遇:他们上线了
白宫:参议院料将快速批准沃什执掌美联储
白宫发言人Kush Desai在社交媒体X上发文称,"白宫依然坚信,参议院会很快批准凯文·沃什担任美联储主席一职。" 他还指出,针对美联储总部大楼翻修工程的费用超支情况,美联储监察长办公室具备"更充分的调查权力,因而最宜负责深入审查此事。"
Anthropic就Mythos模型安全事件展开审查
Anthropic正在就用户通过承包商途径非授权获取高风险网络安全模型Mythos的相关传闻进行内部核查;在此之前,Alphabet、亚马逊(253.08, 3.17, 1.27%)和微软(429.525, 5.37, 1.26%)等企业已获得限定访问授权。
重塑智能体信任:AI数字身份证带来的变革
赋予AI数字身份证:重塑智能体信任机制的关键一跃试想一下,若为人工智能赋予一张独有的“数字身份证”,会引发怎样的认知冲击?有人或许不解:AI已日趋成熟,为何还要为其加冕身份?事实上,学界已明确指出,算力与算法的精进并未解决AI互信缺失的痛点。由于缺乏身份认证,AI无法确认彼此的权限与意图,如同人类隐匿行踪。这种互不识面的状态导致交互仅限于表层指令,难以达成深度协作与风险控制,严重制约了AI的规模化发展。破局之道在于为AI摘下面具,借鉴人类社会的管理体系,引入可验证的数字身份DID。一旦AI拥有这张独一无二