DARPA联合启动AI安全重大研究计划

News国防科技要闻【据美国DARPA网站6月1日报道】日前，DARPA携手美国家科学基金会共同发起"AI锻造"研究项目，同时联合美国家标准与技术研究院AI标准与创新中心开展合作，针对国家安全领域15个核心AI安全难题展开深入研究，促进高等院校、尖端AI企业及政府机构联合技术攻关。该计划重点围绕三大核心技术领域：一是AI可解释性技术，致力于增强模型行为、决策逻辑及影响结果的可理解性，推动AI从基础解释能力向作战环境下的可解释性发展；二是AI控制技术，着力开发可验证的技术工具，确保模型行为可控、可审计、可信