信通院启动云端AI安全评估体系

大模型技术获得规模化应用后，以大模型为基础的各类自主智能体正快速进入政务、金融、工业等多个领域，人工智能正从内容生成向具备自主规划、工具调用和闭环执行能力的智能体时代演进。大模型本身存在提示注入、模型投毒、数据泄露、内容生成违规等内在安全挑战，而智能体依靠自主决策、跨工具联动、长期记忆存储的特点，进一步产生越权调用、记忆污染、多智能体协同失控、恶意指令劫持等新型安全威胁，风险从文本内容安全扩展到实体操作层面，影响链条延伸、风险边界扩大。

在此形势下，中国信通院主导制定云上人工智能安全系列标准，并按照标准推进云上人工智能安全系列评估。

一、可信AI云 大模型安全能力相关评估

中国信通院整合产业、学界、研究和应用资源，致力于构建涵盖基础设施安全、模型安全、数据安全与内容安全等完整生命周期的能力要求标准体系，并适配一体机、私有化部署、MaaS等多种业务场景，实现全面覆盖的安全标准体系。

中国信通院已主导制定可信AI云 大模型安全系列标准，并按照标准推进可信AI云 大模型安全系列评估。

1.可信AI云 大模型基础设施安全能力评估

大模型基础设施安全能力评估依据《可信AI云 大模型基础设施安全能力要求》，聚焦大模型基础设施层面，涵盖安全运维、身份与访问控制、网络安全、存储安全和云平台安全五个层面。

2.可信AI云 大模型模型安全能力评估

大模型模型安全能力评估依据《可信AI云 大模型模型安全能力要求》，聚焦大模型模型层面，涵盖云上大模型训练数据安全、模型架构安全、模型对抗安全三个层面。

3.可信AI云 大模型内容安全能力评估

大模型内容安全能力评估依据《可信AI云 大模型内容安全能力要求》，聚焦大模型内容安全层面，内容安全主要关注敏感信息识别、违规内容过滤、模型输出安全、数据合规等方面。

4.可信AI云 可信AI云数据安全能力评估

可信AI云数据安全能力评估依据标准《AI云服务用户数据保护协议参考框架》推进，主要考察AI云服务商向用户提供的服务协议，要求AI云服务商以全面、规范、透明的方式在SLA中向用户承诺云上大模型服务用户数据的保护情况。评估将从SLA承诺内容规范性审查入手，从技术测试、制度审查、人员访谈三个维度对SLA承诺的服务范围、权益保障、服务质量、数据安全进行真实性验证。

5.可信AI云 大模型MaaS平台安全能力评估

大模型MaaS平台安全能力评估依据《可信AI云 大模型MaaS平台安全能力要求》，聚焦大模型MaaS平台，主要关注平台接入安全、租户隔离、访问控制、数据保护和运维安全等方面。

6.可信AI云 大模型一体机安全能力评估

大模型一体机安全能力评估依据《可信AI云 大模型一体机安全能力要求》，聚焦大模型一体机，主要关注设备物理安全、系统加固、访问控制、数据保护和远程运维安全等方面。

二、可信AI云 大模型应用安全能力成熟度评估

随着政务、金融、运营商等重点行业大模型应用快速增长，数据、内容、模型等多重安全风险同步加剧。传统碎片化安全方案难以有效应对大模型应用特有的动态风险，应用侧企业及行业用户在实际部署中面临风险盲区与合规隐患。

在此形势下，中国信通院主导制定《可信AI云 大模型应用安全成熟度评价方法》标准，并按照标准推进可信AI云 大模型应用安全能力成熟度评估。聚焦大模型应用全生命周期安全，以“数据层、模型层、基础设施层、管理运维层”四层级为核心框架，为行业划定清晰安全边界，构建统一安全信任基准。

三、可信AI云 Claw类智能体能力相关评估

近期，Claw类智能体在企业数字化转型中应用日益广泛，已逐步渗透到金融、制造、互联网、电信等重点行业。然而随着Claw类智能体深度嵌入企业核心业务场景，其安全隐患愈发突出。当前行业缺乏统一的安全能力标准，各类产品在安全防护设计、风险管控水平上差异显著，企业难以精准判断产品安全合规性。部分产品存在数据加密不规范、权限管控松散、恶意指令防御不足等问题，易引发核心数据泄露、恶意攻击、业务中断等安全事件，严重影响企业业务正常运转，亟需通过专业化安全评估规范行业发展、防范安全风险。

在此形势下，中国信通院主导制定可信AI云 Claw类智能体能力系列标准，并按照标准推进可信AI云 Claw类智能体能力系列评估。

1.云端OpenClaw基线评估

云端OpenClaw基线评估依据《云端OpenClaw基线能力要求》，聚焦“功能可信”“收费可控”“权限可靠”“