DARPA联合启动AI安全重大研究计划

News

国防科技要闻

【据美国DARPA网站6月1日报道】日前，DARPA携手美国家科学基金会共同发起"AI锻造"研究项目，同时联合美国家标准与技术研究院AI标准与创新中心开展合作，针对国家安全领域15个核心AI安全难题展开深入研究，促进高等院校、尖端AI企业及政府机构联合技术攻关。该计划重点围绕三大核心技术领域：一是AI可解释性技术，致力于增强模型行为、决策逻辑及影响结果的可理解性，推动AI从基础解释能力向作战环境下的可解释性发展；二是AI控制技术，着力开发可验证的技术工具，确保模型行为可控、可审计、可信赖，为未来更强大AI系统在实际应用中保持有效的人类控制提供技术支撑；三是AI对抗鲁棒性技术，重点建设抗攻击AI的科学基础体系，确保系统在遭受攻击情况下仍能保持系统完整性和性能稳定。

作者：张华清 国家工业信息安全发展研究中心

觉得不错，请点在看↓↓↓