AI 首杀人类：自主武器系统的伦理危机

6 月 13 日，《新科学家》证实了一项惊人事实。

全自主无人机在无人类指令下，首次击毙了人类士兵。

这标志着人类历史的首次。

同日，Google Android 安全主管 René Mayrhofer 发布内部辞职信，宣布离职。起因是 Google 与美国国防部达成协议，允许 AI 用于"任何合法目的"的军事行动。

两则新闻。同一日期。同一事件的不同侧面。

首先需厘清概念：全自主无人机与军用无人机截然不同。

军用无人机已服役十余年。如捕食者、死神、彩虹等机型。它们由千里之外的操作员远程遥控，按下发射键的是人。因此可辩称"这是人在杀人，工具仅是工具"。

全自主无人机则大不相同。

它自主锁定目标。自行评估威胁等级。独立决定开火时机。从感知到决策再到执行，整个 OODA 循环（观察 - 判断 - 决策 - 行动）完全无需人类介入。

这才是名副其实的"自主杀人"。

《新科学家》未披露过多细节：具体战场、无人机型号及伤亡人数。但有一点确凿：这是"有记录以来首次由完全自主运行的无人机实施致命攻击"。

首次。且绝非最后一次。

同日，René Mayrhofer 的消息从另一角度传来。

Mayrhofer 曾任 Google Android 平台安全负责人。他在 5 月 18 日的内部告别信中提出了三项指控：

其一，Google 暗中放弃了碳中和目标。原因是 AI 模型能耗过高。为运行 AI，气候承诺被置后。

其二，Google 与美国国防部签署了"任何合法目的"协议。这意味着 Google 的 AI 技术可被用于美军判定"合法"的任何军事行动，包括监控、目标识别及自动化决策。

其三，Google 删除了"不开发武器"的承诺。2025 年 2 月，Google 更新了 AI 原则手册，移除了"不使用 AI 开发武器或监控工具"的条款。仅仅一个字，被删去。

Mayrhofer 在信中说了一句极重的话：他担忧 Google 的 AI 产品可能被用于针对公民的大规模监控，"包括我自己和家人"。

一位掌管 Android 安全的高管，竟不信任自家 AI 不会被用于监视自己。这非技术问题，而是信任危机。

况且 Mayrhofer 并非普通离职员工。他是 Android 安全负责人。他见过的内部文档、参与的安全评审、掌握的技术能力，远超绝大多数人。当他选择公开辞职并撰写告别信时，是带着内部信息做出的判断。

若分开审视：

这是两件事。

但若合而观之，它们便成为同一事件的两种镜头：AI 正从实验室走向战场，进入军事指挥链，融入杀人决策的闭环。且这一进程，比任何人预想的都要迅速。

我们应驻足深思：

首架全自主无人机已杀人。首家科技巨头的安保主管已因军事 AI 辞职。然而至今，全球尚无任何国家法律明确规定"自主武器系统"的合法边界。

无法律。无条约。无国际共识。

这好比自动驾驶汽车已上路，但交通规则尚未制定。

人类历史上，每次武器技术突破都改变了战争形态。火药终结了骑士时代。机枪终结了骑兵冲锋。核武器终结了大规模国家间战争。

但自主武器系统的性质截然不同。

核武器再强，发射按钮始终在人类手指之下。古巴导弹危机期间，赫鲁晓夫与肯尼迪对峙 13 天，最终无人按下按钮。人类的恐惧、犹豫与道德挣扎，成为了最后的保险丝。

自主武器系统拔掉了这根保险丝。

它不会恐惧。不会犹豫。不会在扣动扳机前的最后一秒思考"我是否在犯历史性错误"。它只是执行。以毫秒为单位。以算法定义的规则为边界。

《新科学家》报道的这个"首次"，或许就是人类最后一根保险丝被拔掉的时刻。

若你是一名普通 AI 开发者，或许会想：这与我何干？我又不制造武器。

实则有关。

你今日在 GitHub 开源的视觉识别模型，明日可能被集成至某无人机的目标识别系统。你今日编写的 Agent 编排框架，可能在军事场景中被用于协调自主武器编队。

AI 技术之可怕在于：其军民两用性极强。一个用于识别猫狗的算法，稍加修改即可用于识别"穿军装者"与"穿平民衣者"。你无需专门"开发武器"，只需开发足够优秀的通用模型，军方自会找到用法。

Google 的 Mayrhofer 正因看清了这一点而辞职。

你无需辞职。但你需知晓，你编写的代码未必会按你设想的路径运行。