我国AI安全标准体系建设全面提速

伴随“人工智能+”战略向纵深推进，各类智能体与AI应用深度融入经济社会各领域。近期接连发生的AI安全事件，既引起社会广泛关注，也促使产学研各方联手应对。日前，全国网络安全标准化技术委员会（简称“网安标委”）正式成立“人工智能安全标准工作组”（WG9），意味着我国AI安全标准体系建设步入全面推进新阶段。

AI安全威胁加剧 攻防对抗升级

近段时间，全球AI领域安全事故密集出现。3月末，AI企业Anthropic的编程助手ClaudeCode发生源码外泄，该事件被认为是AI产业首次遭遇核心代码泄漏事故。

奇安信安全专家章磊分析指出，根据多方公开信息及Anthropic官方说明，此次源码泄露系发布环节人为操作失误所致，属于典型的供应链安全事件。“就像本应只交付产品，却连完整设计图纸也一并交给了客户。”

章磊指出：“当产品的核心机制与防护边界被公开，其运行原理便完全透明。竞品企业可借此研究其架构、功能规划及智能体逻辑，实现快速复制、追赶乃至超越。此外，安全策略暴露后，也易被攻击者发现弱点、规避限制、突破使用约束。”

今年备受追捧的智能体平台OpenClaw（绰号“龙虾”）亦频频暴露安全风险。4月3日，国家信息安全漏洞共享平台（CNNVD）通报显示，3月10日至4月2日间，累计收录OpenClaw漏洞155项，含超危漏洞11项、高危漏洞53项，波及多个版本。

“仅用半天时间，我们就成功突破了OpenClaw防线。”国内著名白帽黑客团队DARKNAVY安全研究总监陆晨介绍，当前国内“龙虾”部署模式主要有两种：一是基于OpenClaw开发对话界面，二是自建服务器供用户独立配置。前者安全隐患更大，一旦失守，攻击者即可夺取服务器控制权，进而渗透至内部大模型系统。

上海交通大学安泰经济与管理学院副院长刘少轩披露，某制造企业因急于部署OpenClaw引发产线瘫痪72小时，预估直接经济损失逾两千万元。另有一家法律服务机构因风控与数据保护措施不力，造成海量客户敏感信息外泄。

亚信安全专家同时指出，现今网络攻击正呈现智能化、自动化趋势，攻击者借助AI技术实现勒索病毒动态编译、高仿钓鱼信息批量生产，显著提升了攻击效率与隐匿性。预计到2026年，AI驱动的自主攻击智能体及深度伪造商业欺诈将成为最严峻的安全威胁。

AI安全需求激增 产业迎来新机遇

国资委1月末公布的数据显示，央企已在工业制造、能源电力、智能网联汽车等关键领域建成千余个AI应用示范场景，AI驱动产业升级的趋势愈发显著。伴随AI安全风险的凸显，新兴防护需求不断涌现，正驱动安全产业加速布局。

东莞证券分析指出，OpenClaw等智能体技术迅速普及，衍生出新型安全防护场景，加之网络安全政策红利持续释放，产业有望开启新一轮增长周期。

长江证券预计，2026年我国网络安全产业规模将超1500亿元，2030年有望达到3000亿元，年均增速保持在18%-20%，行业正步入高速增长阶段。

与此同时，AI安全创新产品接连问世。近期，上海人工智能实验室发布高安全等级产业智能体平台SafeClaw，专注服务高安全标准行业的智能化升级，助力产业实现从“事后补救”到“内生防护”的跨越。该机构同期开源了可快速识别风险的智能体防护模型，并研究将安全规则植入智能体决策核心的“内生演化”治理架构。

上海人工智能实验室首席科学家胡侠指出：“最大的威胁不是已知风险，而是‘未知风险’，因此当务之急是在AI能力飞速提升之际，提前布局内生安全体系。”他表示，上述举措意在将安全防护能力贯穿AI研发应用全流程，为智能体时代构建“内生安全”的系统性方案。

AI治理体系完善 标准制定全面提速

伴随AI技术规模化应用，AI治理议题愈发凸显。今年《政府工作报告》明确要求“健全AI治理体系”，全国人大常委会工作报告亦强调“深化AI立法研究”。

在此形势下，AI安全标准研制进程明显加快。3月25日，工信部就《人工智能安全治理模型上下文协议应用安全要求》等标准草案公开征求意见。

4月上旬，人工智能安全标准工作组（WG9）宣布，将优先推进《网络安全技术人工智能安全能力成熟度评估方法》《网络安全技术人工智能应用安全分类分级方法》《网络安全技术人工智能技术涉及未成年人应用安全指南》等关键标准的制定实施。同时，将在网安标委整体部署下，聚焦内生安全与数据底座、新服务形态安全、系统应用安全及科学测评等方向开展国家标准攻关。

“应对AI新型风险，必须政策、技术、执行三管齐下。”奇安信副总裁张勇展望道，首先，安全将由“可选项”变为“必选项”，合规要求从建议性转为强制性，可确立“AI安全投入占比不低于AI项目总预算15%”的行业红线；其次，防护模式从“单点防御”转向“全网协同”，达成“单点预警、全网免疫”的联动效应；再次，防御手段从“人工干预”升级为“智能对抗”，AI对AI将成为攻防主流；最后，响应机制从“事后处置”转向“事前免疫”，构建弹性防御架构，确保“攻击可恢复、数据不丢失”。