智能体安全分级新标尺出台 推动AI助手由“可用”迈向“可信”
新华网北京6月11日电(曹素妨 向思敏)人工智能正加速从“对话交互”迈向“任务执行”。随着智能助手类智能体在办公、政务、金融、医疗等领域的深度嵌入,提示注入、数据泄露、权限劫持、多智能体协同失控等新型安全风险日益凸显。如何为智能体“系上安全带”,已成为人工智能产业的关键命题。 6月10日,新华网联合中国信息通信研究院等主编及参编单位,正式发布《智能助手类智能体安全分级规范与建设指南》(以下简称“指南”),旨在为技术供给方、服务供给方及行业用户构建“可控、可信、可追溯”的安全能力体系。 五级安全体系:为智能