融合人类意图与AI速度：打造智能作战新范式

往期回顾

战争本质中被遗忘的人工智能驱动军事决策教训！

将人工智能融入军事决策：强化任务分析！

随着美军积极拥抱日益庞大、先进且自主能力不断提升的人工智能，如何有效掌控这些技术成为关键。普遍的认知是，任何致命武力都不得在未经人类授权的情况下使用。然而，这一看似直观的解决方案，实际上存在根本性的缺陷。

当人工智能请求人类监督者审批或否决具体行动时，人机协作的动态往往已进入一个为时过晚的阶段。若仅由人类进行最终决策，算法在此之前已能通过部署兵力、设定目标优先级等方式做出影响深远的预备性决策，从而对人类的选择构成不可接受的限制。反之，若要求对每一个中间步骤都进行人工审批，则会严重牺牲人工智能固有的速度优势和广泛的能力范围。那么，如何在确保人类控制的同时，又不失人工智能的速度呢？

我们认为，解决方案在于将人类的偏好预先嵌入软件设计之中。与其让自动化流程在关键时刻暂停以等待人工输入（这既削弱了人工智能的速度，也限制了人类的选择空间），不如系统性地、有意识地、提前地将指挥官的作战意图等信息整合到算法内部。

尽早建立这种指导机制，将标志着一种范式转变，确保每一个自动化决策都受到人类意图的约束和引导，而非相反，人类决策受到自动化决策的制约。

人工智能驱动的训练能够显著提升效率，并可扩展以支持更多军人进行更长时间的训练。（图表来源：CAE）

呼吁明确界定

需要强调的是，目前没有人希望创造出类似《终结者》或《天网》等虚构作品中的场景。事实上，无论是人工智能的支持者还是批评者，都普遍认同人类必须牢牢掌握对无人武器和军事指挥系统的控制权。然而，在如何实现这种控制的问题上，人们的共识和理解却远未达到人工智能技术本身的发展水平。

尽管投入巨大，包括向国防自主战争小组申请近 550 亿美元的资金，以及从国防部长皮特·赫格塞斯到各级官员的高度重视，但美国军方在人工智能领域的现状仍处于初级阶段。

当前军事人工智能的应用方案涵盖了自动、半自动、自主以及日益增强的智能自主系统等多种类型，但这些术语的含义和使用方式仍然存在相当大的模糊性。人类决策者可能“参与决策”，即被要求批准或否决人工智能的每一个关键行动；也可能“处于决策环路中”，即观察人工智能的运行，但除非主动选择或被要求干预，否则允许人工智能自行做出选择；或者“处于决策环路附近”，即人工智能在机器系统的特定运行“领域”内运作，人类可以根据具体情况以不同方式参与（例如，根据情境选择“参与”或“处于决策环路中”）。

然而，目前尚无明确的标准来界定何为足够程度的参与，从而能够充分且负责任地向人类监督者提供信息，更不用说在采取任何行动前征得其同意。这种状况不仅可能导致对“充分人类参与”的理解产生模糊不清的解读，也凸显了随着美国军事人工智能能力的不断提升，制定精确的理论和明确的标准变得尤为重要。

美国国防部第 3000.09 号指令明确规定，在任何涉及使用致命武力的 AI 行动中，必须有人为干预，但并未提供实现这种干预的具体理论范式或操作指南。我们认为，一个统一的 AI 框架可以通过在整个国防体系内建立通用的原则和可执行的标准来应对这些挑战。这样的框架将确保 AI 系统能够得到有效且负责任的开发和部署。

简而言之，这些系统的自主性越高，对一致性的需求就越发迫切。无论是无人机系统、海上平台还是地面机器人，其自主性都依赖于稳定可靠的数据流、经过严格验证的算法以及清晰明确的交战规则。最重要的是，人为干预的范围和类型应由相关的理论清晰界定。任何模糊不清之处都会削弱人们对这些系统的信任。一个统一的框架能够提供必要的治理机制，以确保任务的安全性、可靠性和可追责性。

合成指挥与控制

随着自主性的规模和智能体架构的不断扩展，传统的、依赖于直接人机交互的指挥控制模式，在确保一致性、问责制和行动协调方面往往会失效。这些模式的根本前提是，权力是通过在特定时刻做出离散的人类决策来行使的。然而，在速度、规模和机器驱动的适应性等因素的影响下，这一前提可能不再适用。

为了弥补这一不足，我们提出了一种合成指挥控制模型（SYNTHComm），该模型将权限定义为系统持续构建的一种内在属性。SYNTHComm 的核心作用是将控制从间歇性的干预转变为一种嵌入系统逻辑的持久性治理。权限被编码、分发并在整个架构中执行，从而从内部塑造行为，而不是通过单个决策从外部施加影响。

SYNTHComm 通过将指令权限转化为机器可理解的语言来实现意图的执行：结构化的约束条件、权重函数以及贯穿整个执行过程的上下文响应控制机制。这些要素能够实时塑造系统行为，确保其在不断变化的环境中始终与任务目标和交战规则保持一致。人为因素的影响仍然通过设计、配置和问责机制得以体现，这些机制共同定义了决策的执行方式。

SYNTHComm 采用一种基于频谱的治理模型。智能体的行为可以用频谱 A(ƒ) 来表示，其中频率分布反映了系统在稳定性和适应性之间如何取得平衡。低频成分（变化频率较低且变化较慢的成分）代表了持久性的任务要素，例如指挥官的意图、政策约束和长期目标。高频成分（需要快速且频繁变化的成分）则代表了对局部情况、不确定性和新出现机遇的响应式、时效性调整。

SYNTHComm 的工作原理是引入一个权重函数 W(ƒ)，该函数将结构化的权限、约束条件和情境调节信息编码到智能体行为频谱中。该函数根据任务优先级、可接受的风险程度以及运行条件，决定了不同类型行为的表达强度。

将 W(ƒ) 应用于代理行为 A(ƒ) 后，即可产生受控输出：

在此，S(ƒ) 代表了系统在实际运行中实现的具体行为（即经过既定治理结构塑造、过滤和协调后的决策与行动）。如图 1 所示，与稳定目标相关的低频分量得以保留，以维持任务的连续性，而对应于适应性或反应性行为的高频分量则根据具体情况被选择性地衰减或增强。

这种方法使得控制能够通过对决策空间进行频谱层面的塑造来实现，而非依赖于离散的指令。因此，治理得以持续且适度地实施，从而在不损害系统自主性的前提下，有效限制其适应性行为的范围。

图 1. SYNTHComm 中的控制频谱模型。频率 (ƒ) 代表了运行条件的变化速率，而幅度则表示相对影响。A(ƒ)（自主性）、S(ƒ)（监督约束）和 W(ƒ)（情境权重）共同定义了一个由可接受自主性界定的连续控制机制。随着运行条件变得更加动态，控制的影响力会从监督控制转向自主响应，W(ƒ) 则负责调节与任务目标和交战规则的一致性。控制作为系统的架构属性而存在，而非孤立的人工干预。

为了更深入地理解和扩展这一框架，我们的团队正在积极推进在 SYNTHComm 中应用模糊逻辑。模糊逻辑提供了一种数学结构，能够表示连续体上的分级控制状态。权限的运作不再是人与机器之间的二元分配，而是一种分布式的、根据情境、置信度和风险动态调整的控制影响。这种方法能够在不同的运行条件下实现自适应行为，同时保持系统的一致性和约束的完整性。

SYNTHComm 还为构建人机协作架构定义了可衡量的控制层面。随着自主性的提高和直接人机交互的减少，SYNTHComm 的密度和精度也会相应提升。控制力通过贯穿整个系统的编码治理结构得以维持。权限的重心从实时决策转移到决策环境的设计和校准。

这种重新定义具有直接的理论意义。责任范围不再局限于单个决策，而是扩展到产生这些决策的整个架构。指挥权涵盖了约束条件、验证机制和转换条件的配置，这些共同决定了系统在不同环境下的行为模式。通过这种方式，SYNTHComm 将技术能力与理论权威相结合，通过精心设计的治理机制，在复杂的运行环境中保持互操作性、问责制和一致性，从而实现可扩展的人机协作。

与美国实力相当的竞争对手正积极投入人工智能领域，试图重塑战争模式并挑战美国的优势地位。尽管美国拥有深厚的人才储备、丰富的资源和强大的创新能力，但这些优势必须通过精心设计，融入美国军用人工智能系统的功能架构之中。

前进的道路既紧迫又可行。建立并实施一个统一的国防人工智能框架，将能够确保战略意图与作战产出相一致，并将两者与负责任的军事行动和问责制紧密联系起来。

在军事人工智能领域的领导地位，将取决于能否将治理、采购、数据和作战协调整合到一个统一的驱动架构中。届时，人工智能将不再仅仅是一个工具，而是能够成为真正的作战伙伴，通过建立有效的人机协作，直接影响决策优势、作战节奏和任务成败，从而在 21 世纪的冲突中赢得决定性的优势。

作者：

Elise Annett 博士是美国国防大学国家战略研究所颠覆性技术与未来战争项目的研究员。

詹姆斯·乔丹诺博士是美国国防大学国家战略研究所战略威慑和大规模杀伤性武器研究中心主任，同时也是该研究所颠覆性技术和未来战争项目负责人。

点

点击阅读原文，加入“未来前沿”小密圈！