我国加快完善人工智能安全标准体系

随着我国“人工智能+”行动持续深化，各类智能体与AI应用正加速融入生产生活场景。与此同时，近期接连出现的AI安全事件，不仅引起社会广泛关注，也成为产业界和学界联合突破的重点议题。近日，全国网络安全标准化技术委员会（以下简称“网安标委”）正式成立“人工智能安全标准工作组”（WG9），这意味着我国人工智能安全标准体系建设迈入系统化推进的新阶段。

AI安全事件多发 攻防博弈加剧

近段时间，全球人工智能行业安全事件接连发生。3月底，人工智能公司Anthropic旗下AI编程工具Claude Code源代码泄露，该事件被认为是AI行业首次出现核心代码外泄。

奇安信安全专家章磊表示，结合公开信息及Anthropic官方回应来看，此次源代码泄露属于发布流程中的人为疏漏，是一起典型的供应链安全事故。“就像本来只需要把成品交付给客户，结果却连整套设计图纸一并送了出去。”

“一旦产品的核心逻辑和安全防线被公开，整个产品的运行方式就会变得透明。竞争者可以直接分析其架构、功能设计和智能体逻辑，从而更快地模仿、追赶甚至改进。同时，安全规则一旦暴露，也更容易让人发现漏洞、绕开限制、突破使用约束。”章磊说。

今年以来迅速走红的智能体工具OpenClaw（俗称“龙虾”）也连续被曝存在多项安全风险。4月3日，国家信息安全漏洞库（CNNVD）发布通报称，自3月10日至4月2日，共收集OpenClaw漏洞155个，其中超危漏洞11个、高危漏洞53个，多个版本均受到影响。

“我们只用了一个下午，就突破了OpenClaw。”国内知名白帽安全团队DARKNAVY安全创新总监陆晨表示，目前国内主流“龙虾”方案主要分为两种：一种是在OpenClaw基础上套壳提供对话界面，另一种是提供服务器让用户自行配置。相较之下，前者风险更高，一旦被攻破，黑客便可能直接取得服务器权限，甚至进入内网大模型。

上海交通大学安泰经济与管理学院副院长刘少轩透露，近期一家制造业企业因仓促部署OpenClaw，导致产线停摆72小时，直接损失可能超过2000万元。另有一家法律服务企业，因风险防控和数据安全措施不到位，造成大量客户隐私数据泄露。

亚信安全相关负责人也表示，当前网络攻击正朝着智能化、自动化方向演变，黑客借助AI实现勒索软件载荷动态生成、高仿真钓鱼内容制作，使攻击效率和隐蔽性显著增强。AI自主攻击智能体、基于深度伪造的商业诈骗，将成为2026年最紧迫的安全挑战。

AI安全供给持续增强 需求释放新机会

国资委1月底发布的数据显示，中央企业已在工业制造、能源电力、智能网联汽车等重点领域打造超过1000个AI应用场景，AI赋能产业转型的趋势愈发明显。与此同时，AI安全问题带来的行业忧虑，也催生出新的安全需求，推动AI安全供给端持续加码。

对此，东莞证券认为，近期OpenClaw等智能体技术加快落地，带来了全新的安全需求场景，再叠加网络安全领域政策利好持续释放，行业有望迎来新一轮增长机遇。

长江证券则预计，2026年国内网络安全市场规模有望突破1500亿元，到2030年可达到3000亿元，年复合增长率约为18%至20%，行业正处在黄金发展期。

与此同时，AI安全新产品和服务也在不断推出。近日，上海人工智能实验室发布高安全产业级智能体平台SafeClaw，聚焦高安全需求下的产业智能化转型，推动行业由“事后安全”向“内生安全”转变。同时，上海人工智能实验室还开源了可快速诊断风险的智能体守卫模型，并探索将安全准则嵌入智能体决策层的“内生进化”治理框架。

“最危险的不是已经发现的风险，而是‘未曾预料的危险’，因此当前的关键任务，是在AI能力快速跃升的同时，前瞻性构建内生安全体系。”上海人工智能实验室领军科学家胡侠表示，“这些工作就是要把安全能力深度融入AI发展的全链条，为智能体时代的‘内生安全’提供系统化解决方案。”

AI治理不断完善 安全标准提速落地

随着人工智能应用范围不断扩大，人工智能治理也越来越受到重视。今年政府工作报告明确提出“完善人工智能治理”，全国人大常委会工作报告提出“加强人工智能领域立法研究”。

在这一背景下，人工智能安全标准正加速推进。3月25日，工信部公开征求《人工智能安全治理模型上下文协议应用安全要求》等行业标准计划项目意见。

4月初，人工智能安全标准工作组（WG9）表示，将重点推动《网络安全技术 人工智能安全能力成熟度评估方法》《网络安全技术 人工智能应用安全分类分级方法》以及《网络安全技术 人工智能技术涉及未成年人应用安全指南》等核心标准落地实施。同时，在全国网安标委统一部署下，集中力量推进内生安全与数据底座、新形态与服务安全、系统与应用安全及科学评测等领域国家标准建设。

“针对AI带来的新型风险，需要从政策法规、技术标准和实施机制三个层面协同推进。”奇安信副总裁张勇认为，展望未来，第一，安全将由“可选项”升级为“必选项”，安全合规也会从推荐性逐步走向强制性，可考虑设定“AI安全投入不低于AI应用总投入15%”这样的行业基准；第二，网络安全将从“单点防护”走向“全链条协同”，实现“一处发现攻击，全网自动免疫”；第三，将从“人防”转向“技防+智防”，AI对抗AI会成为攻防常态；第四，将从“被动应急”走向“主动免疫”，构建具备韧性的防御体系，实现“即便遭遇攻击也能快速恢复、核心数据不丢失”。（记者 叶健 吴蔚）