信通院启动云端AI安全评估体系

大模型技术获得规模化应用后，以大模型为基础的各类自主智能体正快速进入政务、金融、工业等多个领域，人工智能正从内容生成向具备自主规划、工具调用和闭环执行能力的智能体时代演进。大模型本身存在提示注入、模型投毒、数据泄露、内容生成违规等内在安全挑战，而智能体依靠自主决策、跨工具联动、长期记忆存储的特点，进一步产生越权调用、记忆污染、多智能体协同失控、恶意指令劫持等新型安全威胁，风险从文本内容安全扩展到实体操作层面，影响链条延伸、风险边界扩大。在此形势下，中国信通院主导制定云上人工智能安全系列标准，并按照标准推进