我国加速打造AI安全标准体系 应对智能化转型中的潜在威胁
伴随国内"人工智能+"战略深化实施，各类智能体与AI应用深度融入经济社会各领域。近期接连出现的AI安全事件，既引起社会广泛关注，也促使产学研各方联手攻关。日前，全国网络安全标准化技术委员会（简称"网安标委"）正式成立"人工智能安全标准工作组"（WG9），这意味着我国AI安全标准体系建设步入全面提速的新阶段。
1
AI安全事件层出不穷 攻防对抗日趋激烈
近段时间，全球AI产业安全事故密集发生。3月末，人工智能企业Anthropic的AI编程助手Claude Code遭遇源码外泄，该事件被认为是AI领域首例核心代码泄密案件。
奇安信安全专家章磊分析指出，根据多方公开资料及Anthropic官方说明判断，此次源码泄露系发布环节典型的人为操作失误，构成供应链安全事件。"如同本应只交付产品，却误将整套设计蓝图一并送出。"
"一旦产品的核心技术架构与安全机制被公开，其运行原理便完全透明。竞品企业可借此研究其系统结构、功能规划及智能体实现逻辑，从而迅速复制、追赶乃至实现超越。此外，安全防护策略的外泄，也将使系统漏洞更易被发现，限制规则更易被规避，使用约束更易被突破。"章磊指出。
今年以来迅速走红的智能体平台OpenClaw（绰号"龙虾"）也被频繁曝出各类安全风险。据国家信息安全漏洞库（CNNVD）4月3日通报，3月10日至4月2日期间，累计收集OpenClaw相关漏洞155项，其中超危级11项、高危级53项，多个版本均受影响。
"仅用半天时间，我们就成功突破了OpenClaw的防线。"国内著名白帽安全组织DARKNAVY安全创新负责人陆晨介绍，当前国内"龙虾"技术方案主要分为两种模式：一种是在OpenClaw框架上封装对话界面，另一种是部署服务器由用户自主配置。前者安全隐患更为突出，一旦遭入侵，攻击者便可直接控制服务器，进而侵入内部网络的大模型系统。
上海交通大学安泰经济与管理学院副院长刘少轩披露，近期某制造企业因仓促部署OpenClaw，造成生产线停摆72小时，预估直接经济损失逾2000万元。另有一家法律服务机构因未建立完善的风险管控与数据保护机制，致使海量客户敏感信息外泄。
亚信安全相关负责人同时警示，现阶段网络攻击正呈现智能化、自动化发展趋势，不法分子借助AI技术实现勒索病毒载荷的自动化生成及高度仿真的钓鱼邮件制作，显著提升了攻击效率与隐蔽水平。预计AI驱动的自主攻击智能体及基于深度伪造的商业欺诈，将成为2026年最为严峻的安全威胁。
2
AI安全服务加码 市场需求催生新机遇
国资委1月末公布的数据显示，央企已在工业制造、能源电力、智能网联汽车等关键领域建成超千个AI应用示范场景，AI驱动产业升级的趋势愈发显著。伴随AI安全隐患引发的普遍忧虑，全新的防护需求不断涌现，促使AI安全服务供给端持续加强投入。
东莞证券分析指出，以OpenClaw为代表的智能体技术加速商业化，孕育出崭新的安全防护需求，加之网络安全政策红利持续释放，产业将迎来新一轮增长窗口。
长江证券预测，到2026年我国网络安全市场容量将突破1500亿元，2030年有望达到3000亿元规模，年均增速保持在18%-20%区间，行业正步入快速发展通道。
与此同时，AI安全创新产品与服务层出不穷。近期，上海人工智能实验室发布高安全等级产业智能体平台SafeClaw，专注满足严苛安全要求的产业智能化升级，助力行业实现从"事后补救"到"内生防护"的跨越。该实验室同时开源了可快速识别风险的智能体守护模型，并研究将安全规范融入智能体决策机制的"内生进化"治理架构。
"最大的威胁不是已知的风险，而是'意料之外的危险'，因此当下的关键使命是在AI能力迅猛提升的同时，预先构建起内生性安全体系。"上海人工智能实验室首席科学家胡侠强调，"此举致力于将安全防护能力贯穿AI发展全周期，为智能体时代打造系统化的内生安全方案。"
3
AI治理体系日臻完备 安全标准研制全面提速
伴随人工智能的规模化应用，其治理问题愈发凸显。今年政府工作报告中明确提及"健全人工智能治理机制"，全国人大常委会工作报告亦强调"深化AI领域立法研究"。
在此形势下，AI安全标准制定进程明显加快。3月25日，工信部就《人工智能安全治理模型上下文协议应用安全要求》等多项行业标准草案公开征求意见。
4月初，人工智能安全标准工作组（WG9）宣布，将着力推进《网络安全技术 人工智能安全能力成熟度评估方法》《网络安全技术 人工智能应用安全分级分类指南》及《网络安全技术 人工智能未成年人应用安全规范》等关键标准的落地执行。同时，在全国网安标委统筹部署下，集中资源攻克内生安全与数据基础设施、新兴业态与服务防护、系统与应用保障及科学测评体系等方面的国家标准。
"应对AI引发的新型威胁，必须在政策制度、技术规范、执行机制三个维度同步发力。"奇安信副总裁张勇展望道，首先，安全将由"可选项"转变为"必选项"，合规要求从建议性升级为强制性，可设立"AI安全预算不少于AI项目总投入15%"的行业红线；其次，网络安全模式从"单点防御"转向"全链路协同"，达成"单点检出威胁，全网自动防御"的效果；再次，防御手段从"人工干预"进化到"技术智能双驱动"，AI对抗AI成为攻防主流；最后，防护理念从"事后处置"跃升至"主动免疫"，构建弹性防御体系，确保"即便遭遇攻击也能迅速复原、核心资产不损失"。