算法铁幕下的战争新纪元：AI武器化与人类命运的多维危机
2026年3月5日，一枚"战斧"巡航导弹袭击了伊朗南部米纳卜市沙贾雷·塔耶贝小学周边区域，导致超过170名平民遇难，其中大多数是12岁以下的女童。事故原因令人震惊：美军"梅文"人工智能作战系统依据一份十年未曾更新的情报数据，将一个与学校相邻的军事设施判定为打击目标，而人类操作员在"自动化偏见"的影响下，未经独立核实就批准了攻击指令。
这并非科幻电影中的情节，而是已经发生的悲剧。随着人工智能以前所未有的速度被整合进各国军事体系，一场关于算法介入战争边界的全球争论正在升温。军事AI究竟潜藏着哪些风险？本文尝试从多个维度审视这一命题。
自主武器：当"人"从决策链中消失
最引人忧虑的，是所谓"致命性自主武器系统"——一旦启动便可在无需人类进一步干预的情况下选择和打击目标的武器系统。目前，各国在公开表态中普遍承诺保留"人在回路"的决策机制。然而，战场现实正在消解这一承诺。
设想一个场景：一名无人机飞手戴着VR眼镜，身处高危前线，在极度紧张的条件下搜寻任何移动目标。他看到的只是模糊的热成像轮廓——可能是士兵，可能是伤兵，也可能是平民。在生存压力和时间压缩之下，"人类判断"的空间所剩无几。更严峻的是，当AI在通信中断的环境中独立搜索和攻击目标时，人类使用者实际上已无法理解、预测或控制武器的功能和效果。红十字国际委员会直言，这可能导致武器具有"不分皂白的特性"并违反国际人道法。
五角大楼已在实战中验证了AI武器的效能。在2026年对伊朗的军事行动中，美军借助"梅文智能系统"在战争首个24小时内便打击了1000个目标，规模约为2003年伊拉克战争的两倍。与此同时，美军还在研发可嵌入"单向攻击无人机"的AI技术，使其在无线通信中断的情况下仍能自主导航、定位目标并实施致命打击。自主武器不是未来时，而是进行时。
决策异化：当算法代替人类判断
军事AI的另一重风险更为隐蔽：它不直接扣动扳机，却从根本上改变了人类如何做出扣动扳机的决定。
AI决策支持系统能在数秒内整合海量数据，为指挥官提供目标锁定或行动方案建议。问题在于，当AI处理的数据量远远超出人类认知能力时，指挥官如何在有限时间内"善意评估"AI的建议？如何才算"充分考虑"了AI的决策依据？
在美以伊战争中，这种异化趋势已经显现。军事决策机制接入大模型后首次大规模应用于实战：起初空袭集中于军事目标，随后扩展到政府、民兵组织、警察局，最后连公路、桥梁、铁路等民用基础设施也成为打击对象。外界无从得知这是否是AI基于"战争韧性"分析给出的分阶段打击方案，但趋势已然清晰——当AI被要求以"速战速决"的逻辑优化作战方案，它会在宏观上对比总体军事利益与附带平民伤害，计算出比例原则的上限。一个"不体面"却"最高效"的方案摆在指挥官面前，拒绝还是批准？学者们担忧的是，AI对"军事必要"的极端计算只会让决策者对附带伤害的容忍度越来越高。
联合国秘书长古特雷斯在2025年9月安理会公开辩论中一针见血地警告："人类命运不能交由算法决定"，生死攸关的决策必须始终掌握在人类手中。
军备竞赛：当"相互确保毁灭"被算法驱动
军事AI的第三重风险体现在战略层面：它正触发一场新的全球军备竞赛，其逻辑与核竞赛高度相似，但更为危险。
2026年初，五角大楼宣布成为"AI优先"的作战机构，推出"AI加速战略"，意图以"战时速度"将AI推向战场决策、情报处理和作战指挥。与此同时，中国的军事展示、俄罗斯的无人机生产能力、印度和以色列等国的投资布局，共同构成了这场竞赛的全球版图。Anduril公司创始人将这一态势比作"相互确保毁灭"——大国争相构建AI武库作为威慑手段，正如冷战时期对核武器的追逐。
但AI军备竞赛比核竞赛更危险。核武器的物理规律和后果已为人所熟知，而AI的军事能力才刚刚显现，其行为逻辑仍不透明，后果高度不可预测。有研究指出，在决策模拟中AI倾向于选择更多的升级选项。2024年中美之间唯一的AI武器协议不过是一份无约束力的承诺，此后两国的AI军事化步伐不断加快。正如分析人士所警告的，围绕军事AI治理的共识缺位，只会加速一场以AI能力为核心轴心的新型军备竞赛。
技术脆弱性：当智能系统自身成为软肋
军事AI的第四重风险源于其技术本质：它不仅是武器，也可能是攻击的入口。
DARPA已公开警告，军事AI系统面临数据投毒、对抗性补丁和模型窃取等网络安全威胁，攻击者可能操控或破坏AI的决策输出。北约的研究进一步指出，Agentic AI系统可能通过越狱、提示注入等手段被利用，做出错误决策或产生意外行为。在电子对抗环境中，未经过加固的AI系统极易被欺骗、干扰乃至劫持，将己方武器变成对己方目标的威胁。
这意味着，最先进的AI武器系统可能也是最脆弱的一环。一个被污染的数据集、一组精心设计的对抗样本，就可能让数十亿美元打造的系统在关键时刻失效或反噬。
核风险：当算法靠近"终极按钮"
在所有风险中，最令人不安的是AI与核指挥控制系统的结合。
各国军方正在探索将AI整合进核指挥、控制和通信系统（NC3）的路径。斯德哥尔摩国际和平研究所的报告指出，AI虽能提升数据处理速度和精度，却也引入了新的不确定性，可能削弱威慑稳定性，增加误判升级和意外使用核武器的风险。研究表明，配备自动化核发射系统的明确核威胁在理论上是"更可信"的威慑手段，但这也意味着误判的代价将难以估量。
最致命的场景或许不是AI主动发动核打击，而是由AI错误引发的意外升级。在危机情境中，系统对威胁的误判可能导致一方做出看似"蓄意"的攻击行为，而另一方无法辨别这是事故还是侵略——这种信息不对称在古巴导弹危机时期就曾将世界推向核战争边缘，如今AI的介入只会让风险进一步放大。联合国专家明确指出，即使可以避免将AI纳入NC3，网络安全层面的漏洞本身就是潜在灾难的入口。
治理困境：当规则追不上技术
面对上述风险，国际社会的反应却显得迟缓和分裂。
在联合国《特定常规武器公约》框架下，各国代表自2024年起就致命性自主武器系统的监管问题进行多轮谈判，已有超过70个国家支持在现有文本基础上推进法律文书的谈判。但2026年是三年授权期限的最后一年，而实质性谈判要到2027年才有可能启动。在此期间，AI武器的实战化步伐不会停下等待规则。
法律真空尤为突出。国际人道法并未直接规范AI在战争中的使用，现有的"人类监督"概念定义模糊，在实践中几乎无法落地。红十字国际委员会已甄别出三类具有重大风险的军事AI应用：自主武器系统中的AI、军事决策中的AI、信息通信技术中的AI。每一项都在推动战争向更少人类控制、更大附带伤害的方向发展。
结语：在"效率"与"良知"之间
从米纳卜小学的废墟到加速扩张的全球AI武库，从算法推荐的作战方案到靠近核按钮的智能系统，军事AI的风险正以多维且相互交织的方式呈现。技术被武器化的历史一再证明，新武器总会先被研发，规则才姗姗来迟。
中国在2023年发布《全球人工智能治理倡议》，倡导"以人为本、智能向善"的理念。红十字国际委员会则反复强调一个朴素的道理：扣动扳机的必须是人，而非机器。正如该委员会首席法务官援引布拉德利将军对核武器的反思所言："这个世界取得了辉煌的成就却缺乏智慧，获得了强大的力量却缺乏良知"。当算法被赋予决定生死的权力，人类或许需要在"效率"与"良知"之间重新做出选择。