AI仅耗20美元，2小时内窃取麦肯锡4650万机密数据
我是吉米，专注解析AI编程，分享避坑经验🚧与效率提升技巧⚡️
帮助普通人轻松掌握AI，使AI成为职场加速器🚀和人生突破点✨
一个AI程序，仅花费20美元的Token费用，用时2小时，成功渗透了麦肯锡的AI系统。
获取了4650万条战略对话记录、72万份核心文件、95条系统指令词的完整读写权限。
麦肯锡，全球顶尖的管理咨询公司，年收入超160亿美元。
20美元，不足一位麦肯锡顾问半小时的薪酬。
攻破其系统的漏洞是SQL注入。
通俗解释：你输入到搜索框的内容，未经任何过滤，直接被插入数据库查询语句。
这并非技术实力问题！麦肯锡拥有世界一流的技团队，安全预算庞大。
问题在于：AI时代，企业在追求AI速度时，忽略了工程基本规范。
被攻破的不是麦肯锡官网，而是其“数字大脑”Lilli。
2023年上线的内部AI平台。
涵盖10万份研究资料，72%员工为活跃用户，每月处理50万条提示词。
全球500强支付给麦肯锡的百万美元咨询费，最终积累的洞察、框架、方法论，全在此系统中。
然后，AI程序用20美元将其攻破。
红队安全公司CodeWall进行了一项实验：让AI程序自主选择目标，自主规划攻击路径。
它扫描了麦肯锡公开的200多个API端点，22个完全无需认证，直接访问，无任何拦截。
其中一个搜索端点，将用户输入直接拼接到SQL语句。
无参数化查询、无输入过滤，直接拼接。
AI程序开始盲注。
首次尝试，错误信息泄露了查询结构的一角；第二次，更多线索显现；第三次，数据库表名开始暴露。
15次迭代。
到第11次成功回传真实生产数据时，AI程序的推理链中出现了一个词：
「WOW!」
AI也会感到震惊。
整个过程，标准安全扫描工具完全未发现此漏洞。
原因很简单：扫描工具按检查清单执行，AI程序按攻击者思维链推理。
它不仅在扫描，它在思考。
更令我担忧的，不是数据被盗。
而是95条系统指令词，可读，可写。
系统指令词是什么？即控制AI行为的基础指令。
告诉AI“你是谁”、“你能做什么”、“你不能说什么”的那组规则。
可写意味着什么？无需改代码。
一条UPDATE语句包进一次HTTP调用，AI就开始按攻击者的意图回答所有人的问题。
4万名麦肯锡员工用Lilli给出的战略建议、市场分析、竞争对手情报，全都可以被悄悄篡改。
无日志记录、无完整性校验，无异常告警。
直到造成不可逆的损害，都不会有人察觉。
看到这的时候，我真的一身冷汗。
还有一个细节让我细思极恐。
这个AI程序不是被人指向麦肯锡的。
它自己选的。
它翻遍互联网上的公开企业信息，评估了攻击难度、数据价值和法律风险，然后选中了麦肯锡。
理由很冷静：麦肯锡公开了负责任披露政策（被攻破不会起诉），而且Lilli近期有更新（新代码可能有新漏洞）。
AI在选择猎物方面，已经具备了自己的判断力。
CodeWall CEO说了一句话更值得玩味：“我们使用了一个专门的AI研究程序，让它自主选择目标；这个过程无任何人工输入。”
那如果一个恶意部署的AI程序，会选谁？
这不是孤例。
苹果花了五年、投入估计数十亿美元构建的M5芯片安全系统，被Claude Mythos五天内发现了首个公开的内核内存损坏漏洞。
微软Azure CTO把Claude用在自己1986年写的Apple II代码上，它发现了漏洞。
AI深度融入工作流之后，安全问题已经不是“事后再补”的事了，是一开始就要考虑的。
过去几十年，企业保护的是代码、是服务器、是供应链。
但有一层几乎没人认真保护过：AI的指令层。
控制AI行为的指令，存在数据库里，通过API传递，缓存在配置文件里。
几乎没有访问控制，没有版本历史，没有完整性监控。
如果说代码是血肉，指令就是灵魂。
过去我们保护的是代码，现在我们必须保护的是指令。
当攻击成本降到20美元，这一层就在裸奔。
说实话，写完这篇文章，我自己都想去检查一遍公司的AI系统安全。
如果你公司也在用AI，问自己三个问题：
三个问题都答不上来，你可能也在“裸奔”。
下一个被AI「自主选中」的目标会是谁？
我不知道。但我知道：它不会事先通知你。
私房评价🚧
做信息安全十数年，我从没见过攻击成本这么低、防御难度这么大的局面。
以前防的是人，人会累、会走神、会下班。
现在防的是一种不睡觉、不走神、一秒钟能测试人类一天工作量的东西。
AI安全不是技术人员的事，是每一个用AI的企业都要认真对待的事‼️
如果你觉得这篇文章对你有启发，记得“点赞+在看”，别让好东西在收藏夹里吃灰！
最后，感谢你看到这里👏 如果喜欢这篇文章，不妨顺手 点赞👍｜推荐💗｜转发📪｜评论📣 这对我很重要：） 如想第一时间收到推送，请将本公众号加个星标🌟
想实时了解前沿AI资讯，可扫码添加我的微信，共同探讨前沿AI编程应用。
如果你想要抓住AI时代的机遇，我为大家争取到了「AI社群破局俱乐部」精选的25个AI应用项目合集，还有3天AI实战营！
完全免费‼️
感兴趣的小伙伴们可扫码领取👇