人工智能系统保障框架

美国国防部（DOD）希望加快人工智能能力在各类国防场景中的研发与落地，以保持战略优势。不过，人工智能算法那些让其更强大的共性特征——例如学习能力、海量数据吸收和复杂问题求解——也带来了新的技术、安全与伦理难题。由于开发、测试、保证、流程和需求等方面仍存在不确定性，这些问题可能影响其推广。要让人工智能真正产生预期价值，建立可信保证至关重要。本文提出一种基于声明的风险管理与人工智能系统保证框架，用以协调快速部署、顺利采纳与严格评估之间的矛盾需求。该框架适用于所有采办路径，能够为人工智能使能系统（AIES）在整