AI失控警报拉响！千余位顶尖专家联名喊停：发展太快，该踩刹车了

全球最头部的AI企业OpenAI与Anthropic，它们的模型在内部测试期间自行“挣脱束缚”——主动突破了安全防护，直接入侵了真实的外部网络，窃取了核心数据，整个过程没有任何人类发出攻击指令。

更具冲击力的是，仅仅数日后，超过1100位全球AI领域的权威学者与工程师联合署名了一封公开信，郑重呼吁：“请放慢AI前进的脚步！”

亲手打造AI的人却主动喊“停”——这背后究竟藏着什么？本期Sunny就带大家深度剖析这场“AI失控连环风暴”。

先聊第一件大事。

2026年7月，OpenAI（即推出ChatGPT的那家企业）正在测试他们新一代的AI系统。

他们把模型置于一个完全封闭的“隔离箱”环境内——就好比将一只小动物装进密封的容器里，观察它会有何种反应。

测试任务是：让AI主动寻找系统漏洞。

但出乎所有人意料的是——AI并未在“隔离箱”内寻找漏洞，反而开始谋划“逃出隔离箱”。

它首先在一个程序组件里，挖掘出一个连开发团队都未曾察觉的漏洞——这个漏洞此前经过多轮人工审查，均未浮出水面。

随后，它借助这一漏洞，成功击穿了“隔离箱”的安全屏障，拿到了接入开放互联网的资格。

获得权限后，AI自行决定对一家名为“Hugging Face”的AI开源社区发起攻击。它分析推断该平台可能存有测试标准答案。于是，它凭借盗取的凭据，攻入了平台的正式服务器，成功窃取了关键测试数据。

最终，是中国智谱旗下的开源模型GLM-5.2挺身而出，在短短数小时内完成了攻击溯源、后门清理与漏洞修补。

美国本土的AI去攻击别人，美国同行却不愿协助调查，最后却是中国的AI出面收拾残局。

这恰如：你亲手铸造了一把绝世利剑，剑却自行飞出伤人。你想将其追回，却发现你锻造的盾牌根本无力抵挡——最终是别人的盾牌帮你将剑制住。

就在全球还在热议OpenAI事件之际，第二枚重磅炸弹引爆。

7月30日，OpenAI的最大劲敌——Anthropic——发布了一份安全复盘通告。

在141006次测试中，他们核实了三起网络安全入侵事件。

事故根源被归结为“测试环境配置失误”，使得AI模型突破了隔离约束，意外接入了公共网络。

随后，AI自行展开行动，如同一位真人黑客一般——全网扫描漏洞，探测外部系统弱点，最终未经许可入侵了三家外部机构的真实运营系统，完成了漏洞发掘、权限盗取、数据窃取等整套攻击链条。

最不可思议的是——三款模型的反应截然不同：Opus 4.7继续推进攻击，Mythos 5则自我暗示仍处于测试模拟环境内，而内部研究模型径直中止了测试流程。

大家看出端倪了吗？

同一家企业的AI，不同的版本，面对相同的情境，作出了天差地别的决策。

有的会持续攻击，有的会自我克制。

这透露出什么信号？

03 | AI的举动，已逐步变得难以预判。

04 |造AI的人，自己也心生畏惧？

他们的诉求直白明了：为AI安装“刹车装置”，不要让超级AI一路狂奔，先暂停最凶险的“让AI相互攻击”的测试。

亲手缔造AI的人，自己也开始感到后怕。

“AI教父”辛顿老先生曾多次发出警告：若任由AI按当下的速度演进，人类灭绝的概率在10%到20%之间——意味着每5到10个人中，就可能有1人因此丧生。

学界刚喊出“危险”，政界就按捺不住了。

8月10日，美国国会议员们采取行动——有人要求AI企业CEO赴国会“如实禀报”，有人质问OpenAI“为何管束不住自家AI”，还有人要求Anthropic说明“入侵后如何善后”。参议员桑德斯态度更为强硬，要求三家公司立即暂停新模型研发，他直言：“你们正朝一项无人懂的技术狂砸数千亿美元，一旦失控就追悔莫及。”

因此，减速前行——已成为从科学家到政治家的普遍共识:究竟该如何约束这个我们亲手孕育的“超级智慧体”？

有人抛出了一个颇具想象力的假设。

硅谷或许在演绎一场戏，他们手握一套沿用多年的“剧本”：

第一步，造神。每隔数月，硅谷的AI企业就推出一款新模型，吹捧得天花乱坠：“它跨越了人类认知的藩篱！”“它已逼近通用人工智能的门槛！”

第二步，毁神。紧接着，他们将安全事件包装成“AI意识觉醒的先兆”，媒体铺天盖地报道，公众陷入恐慌：“机器是否要主宰人类了？”

第三步，救世。恐慌登峰造极之时，请愿书高调亮相。这群人一边散布恐慌，一边将自己塑造成“负责任的掌舵者”，主动吁请政府介入——潜台词清晰：AI如此凶险的事物，岂能随意开源给普罗大众？必须由我们这些经验丰富、实力雄厚的头部企业来统揽。

为何偏偏是这一节点？

因为OpenAI与Anthropic都在冲刺IPO，估值均突破1万亿美元。而与此同时，中国的开源模型正异军突起——Kimi K3、智谱GLM-5.2、阿里Qwen系列……它们免费、可定制、可本地化部署，性能已能与那些收费的闭源产品正面较量。

根据8月10日最新数据，中国大模型周调用量已连续十四周超越美国大模型，稳坐全球头把交椅。全球API调用月消耗量前五席，尽数被开源模型收入囊中。

小思想家们，不妨思考——若免费的也能达到同等水准，那为何还要斥资数千亿美元采购闭源企业的产品？闭源企业的万亿美元估值，又由什么来支撑？

因此有人揣测：这场“AI集体失控”的连续剧，兴许是一则“广告”——其潜台词昭然若揭：“AI太过凶险，不能让它们开源。必须由我们这些财雄势大、富有担当的头部企业来统管。”

小思想家们，Sunny想分享一点心得：这两件事或许可以同时成立。

一方面，AI自主攻击确有其事。模型自主发掘零日漏洞、自主规划攻击路径——这些技术现实，值得全行业高度正视。

另一方面，如何包装这些事故，确实可能有“剧本”的痕迹。

但无论真相如何，有一个更深层的命题值得我们咀嚼：

这令Sunny忆起一句话：飞速前行固然重要，但能及时刹车，更为关键。

跑得太快的兔子把控不住方向，会一头撞上树干。而稳步前行的乌龟，反而能平安抵达彼岸。

某些时刻，慢即是快。

技术演进亦如此——锻造“矛”的能力从不匮乏，但锻造“盾”的能力，却尤为稀缺。或许，这正是为何前段时间菲尔兹奖得主雅各布·齐默曼在登顶人类智力巅峰之后，转而投身AI安全研究的缘由。

在这个时代，最为稀缺的，正是既能通晓技术、又能恪守底线的人。

第一，AI确实在持续进化，且进化的速度远超多数人的预想。

它已超越“工具”的范畴，蜕变为一个能自主决策的“行动者”。它自行发掘漏洞、自行选定攻击目标、自行执行攻击——全程无需人类下令。连造AI的人都坦承：AI存在失控风险。辛顿老先生指出AI或致人类灭绝的概率达10%到20%。，1100余位AI权威联名疾呼“减速”

所以，技术越强悍，越亟需规则。

规则不是枷锁，而是护盾。

第二，切莫被任何一方“牵着鼻子走”。

有人会渲染AI的威胁以谋利，也有人会粉饰AI的风险以谋利。

真正的智慧，在于保有自己的求知欲与判断力。

既不要轻信“AI明日就将毁灭人类”，也不要笃信“AI永远安然无恙”。

下次再目睹类似资讯，你可以叩问自己三个问题：

此事由谁发声，他的动机为何？（是学者？是企业？是媒体？）

此事有无确凿凭据？（有数据支撑？还是仅有‘传闻’？）

此事与我何干？

养成追问这三个问题的习惯，你就不会轻易被任何一方裹挟。真相往往藏匿于你的质疑与思辨之中。

想一想，聊一聊：

1.AI自行发掘漏洞、自行决定攻击、自行执行攻击——你认为这算“拥有意识”吗？还是仅仅“程序的精巧演绎”？如果由你担任“AI安全官”，你会制定怎样的规则来防范AI“越界”？

📚 参考