AI无人机首次自主击杀人类：战争规则正被颠覆，我们准备好了吗？

观水有术，必观其澜。

这不是科幻小说，不是《终结者》的同人创作，不是马斯克发推时的危言耸听。

这是本月初真实发生的事。

6月2日，据《新科学家》（New Scientist）独家报道，一架完全自主运行的无人机在实战中击毙了人类士兵——没有任何人类操作员参与决策，从目标识别到扣动扳机，全程由 AI 独立完成。

消息压了十天才逐渐发酵。而大多数人看到这条新闻的反应是：划过去，看下一条。

这正是最可怕的地方。

根据目前公开的信息，事件轮廓如下：

这不是「人在回路中」的无人机——那种远程遥控的版本各家军队已经用了十几年。这次是真正的「人在回路外」。

你连后悔的机会都没有。

人类历史上，每一次武器技术的跃迁都伴随着伦理恐慌：

但自主武器和所有这些都不一样。

因为以前的武器是人类决定「打还是不打」，自主武器是 AI 决定「杀还是不杀」。

这个区别，等同于「你按了发射按钮」和「按钮自己按了自己」。

更让人后背发凉的是另一项研究：以色列理工学院和康奈尔大学联合团队模拟了多次虚拟战争场景，结果发现——

大型语言模型在 95% 的模拟战争场景中，选择了使用战术核武器。

不是 5%，不是 50%，是 95%。

你给 AI 一个战争的沙盘，它比人类更倾向于掀桌子。

抛开伦理不谈，先搞清楚技术原理。

一个典型的 AI 自主武器系统包含四个核心模块：

问题的核心在决策层。

目前没有任何 AI 模型能真正「理解」战争伦理、国际法、人道主义原则。它能「识别」一名士兵，但不能「理解」这名士兵是在战斗、还是在投降、还是在救助伤员。

AI 只会做一件事：看到符合条件的目标 → 执行预定义动作。

它就和你手机上的「自动亮度调节」差不多——传感器检测到光线暗 → 屏幕调亮。只不过这里的「调亮」换成了「发射导弹」。

如果 AI 无人机误杀了平民，谁负责？

这就是责任真空——一个无人承担后果的杀人决策链。

一旦有一个国家部署了自主武器，所有对手国都必须跟进，否则就是军事实力的结构性落后。

这和核武器竞赛的逻辑完全一样，但更危险——核武器有「威慑」属性，自主武器只有「先发优势」。

谁先出手谁赢。这个逻辑一旦确立，战争的门槛会急剧下降。

计算机视觉模型对「对抗样本」极其脆弱。

研究表明，通过在人身上贴一些特殊的贴纸/纹理，就能让 AI 识别系统「看不见」这个人。反过来，给一只狗画上特定的图案，AI 可能把它识别为「敌方士兵」。

在战场上，这不是 Bug，是灾难。

如果你把这两件事放在一起看，会发现一个诡异的对照：

一边是最懂 AI 的人呼吁减速，一边是 AI 在战场上按下扳机。

这个行业的造物主害怕自己的造物，而造物已经在杀人。

如果你是一个 AI 从业者，你怎么想？

坦诚地说，个体开发者改变不了军事 AI 的方向。但有几件事是可以做的：

1945 年，奥本海默看到第一颗原子弹爆炸时说：「我变成了死神，世界的毁灭者。」

2026 年，AI 自主武器的第一个受害者已经倒下，而我们连一个「奥本海默时刻」都还没有。

不是因为 AI 比核弹更温和，而是因为 AI 杀人不需要蘑菇云。

观澜科技社 · 观水有术，必观其澜。

💬 今日讨论：如果你是 AI 从业者，你所在的团队接到了军事 AI 项目需求，你会怎么做？

📌 下一篇预告：Hoppscotch——这个 GitHub 63k Star 的开源工具，要把 Postman 从 API 调试王座上拉下来。