人工智能安全标准体系加速成型
随着我国“人工智能+”行动持续落地，各类智能体与AI应用不断进入生产和日常生活等多种场景。与此同时，近期频繁曝出的AI安全事故不仅引起社会广泛关注，也推动产业与学界共同寻求突破。近日，全国网络安全标准化技术委员会（以下简称“网安标委”）正式成立“人工智能安全标准工作组”（WG9），这意味着我国人工智能安全标准体系建设进入更系统、更有节奏的推进阶段。
AI安全风险高发 攻防对抗升级
近年来，全球范围内的人工智能安全事件持续增多。3月底，人工智能企业Anthropic旗下AI编程工具Claude Code发生源代码泄露事件，该情况被认为是AI行业首次核心代码外泄的重要案例。
奇安信安全专家章磊表示，结合公开资料以及Anthropic官方回应进行研判，可以看出此次源代码泄露更像是发布流程中的人为疏漏，属于典型的供应链安全事故。“就像本应只提供给客户成品，却误把整套制作图纸一并发了出去。”
“一旦产品的关键逻辑以及防护底线被公开，产品运行方式就会变得更为透明。对手不仅能直接分析架构与功能设计，连智能体的逻辑也更易被拆解，从而实现更快的模仿、追赶，甚至进一步优化。并且当安全规则暴露后，也会更容易让攻击者定位薄弱点，进而绕过约束并突破使用限制。”章磊进一步说。
今年以来迅速走红的智能体工具OpenClaw（俗称“龙虾”）也多次被曝出存在多项安全隐患。4月3日，国家信息安全漏洞库（CNNVD）发布通报：自3月10日至4月2日，共收录OpenClaw相关漏洞155个，其中超危11个、高危53个，多版本OpenClaw均受到漏洞影响。
“我们只用了一个下午，就把OpenClaw攻破了。”国内知名白帽安全团队DARKNAVY安全创新总监陆晨指出，目前国内较主流的“龙虾”方案大致可分为两类：其一是在OpenClaw之上进行套壳，提供带对话框的使用方式；其二是由厂商提供服务器，供用户自行搭建配置。相比之下，前一种方案风险更高，遭到利用后攻击者可能直接拿到服务器权限，甚至进一步进入内网大模型环境。
上海交通大学安泰经济与管理学院副院长刘少轩介绍，近期有制造业企业因仓促上线OpenClaw，造成产线停转72小时，相关损失可能超过2000万元；也有法律服务机构由于风险防范和数据安全措施不到位，引发大量客户隐私数据泄露。
亚信安全相关负责人同样表示，当前网络攻击正向智能化、自动化方向演进。攻击者借助AI可动态生成勒索软件载荷，并制作高度拟真的钓鱼内容，使得攻击效率与隐蔽性显著提升。随着AI自主攻击智能体、以及基于深度伪造的商务诈骗加速扩散，2026年或将成为最需要优先应对的安全挑战窗口。
AI安全供给提速 需求释放带来机遇
国资委1月底发布的数据显示，中央企业已在工业制造、能源电力、智能网联汽车等重点领域，打造了超过1000个AI应用场景，AI赋能产业转型的态势愈加清晰。与此同时，AI安全问题带来的担忧也在扩大，从而催生新的安全需求，进一步推动AI安全供给侧持续发力。
对此，东莞证券认为，OpenClaw等智能体技术近期快速落地，形成了新的安全需求场景；再叠加网络安全相关政策利好持续释放，行业有望迎来新一轮增长空间。
长江证券则预测，2026年国内网络安全市场规模有望突破1500亿元，2030年达到3000亿元左右，年复合增长率约在18%至20%区间。总体来看，行业正处在加速发展的关键阶段。
与此同时，AI安全新品与服务也在不断推出。近日，上海人工智能实验室发布面向高安全需求的产业级智能体平台SafeClaw，聚焦行业向智能化转型中的高安全要求，推动从“事后安全”向“内生安全”演进。该实验室还开源了可用于快速诊断风险的智能体守卫模型，并探索将安全准则嵌入智能体决策层的“内生进化”治理框架。
“最需要警惕的并不只是已知风险，更是‘没有预想到的危险’。因此，当AI能力持续攀升时，必须同步前瞻性构建内生安全体系。”上海人工智能实验室领军科学家胡侠表示，“相关工作旨在把安全能力深度融入AI发展全链条，为智能体时代的‘内生安全’提供系统性解决方案。”
AI治理不断完善 安全标准加快落地
随着人工智能被更广泛地应用，人工智能治理也受到持续重视。今年政府工作报告提出“完善人工智能治理”，全国人大常委会工作报告也强调“加强人工智能领域立法研究”。
在这种背景下，人工智能安全相关标准正在加速形成。3月25日，工信部公开征求《人工智能安全治理模型上下文协议应用安全要求》等行业标准计划项目意见。
4月初，人工智能安全标准工作组（WG9）表示，将重点推进《网络安全技术 人工智能安全能力成熟度评估方法》《网络安全技术 人工智能应用安全分类分级方法》以及《网络安全技术 人工智能技术涉及未成年人应用安全指南》等核心标准的落地实施。同时，在全国网安标委的统一部署下，将集中力量攻坚内生安全与数据基座、新形态与服务安全、系统与应用安全及科学评测等国家标准方向。
“针对AI带来的新型风险，需要从政策法规、技术标准、实施机制三个层面协同推进。”奇安信副总裁张勇认为，展望未来，第一，安全从“可选配”走向“必标配”，合规要求从推荐性向强制性转变，例如可设定“AI安全投入不低于AI应用总投入15%”等行业基准；第二，网络安全从“单点防护”转向“全链条协同”，努力实现“一处发现攻击，全网自动免疫”；第三，从“人防”为主升级为“技防+智防”，让AI对抗AI成为常态；第四，从“被动应急”迈向“主动免疫”，建立韧性防御体系，实现“即便遭到攻击也能快速恢复、核心数据不丢失”。