直面AI赋能潜藏风险 中国加快构筑人工智能安全规范框架

伴随我国“人工智能+”战略的纵深推进，各类智能体与AI应用深度融入生产生活场景。而近期接连发生的AI安全事件，不仅引发公众关切，也成为产学研联手应对的重要课题。近日，全国网络安全标准化技术委员会（以下简称“网安标委”）正式成立“人工智能安全标准工作组”（WG9），意味着我国人工智能安全标准体系建设步入系统化建设新阶段。

AI安全事件密集爆发 攻防对抗持续升级

近期，全球AI领域安全事件密集爆发。3月底，AI企业Anthropic的编程助手Claude Code遭遇源码外泄，这一事件被视作AI产业首例核心算法泄密事故。

奇安信安全专家章磊指出，综合各类公开信息以及Anthropic的官方回应分析，此次源代码泄露是典型的发布流程人为疏漏，属于供应链安全事件。“如同本该交付成品却附赠了完整设计图纸。”

“产品核心逻辑与安全底线一旦透明化，产品运行机制便一览无余。竞品企业可深入剖析其架构、功能设计、智能体逻辑，能够迅速复制、赶超乃至改进。同时，安全防护策略公开后，也更易被挖掘缺陷、规避限制、突破使用边界。”章磊表示。

今年初迅速走红的智能体平台OpenClaw（俗称“龙虾”）连续暴露多项安全漏洞。4月3日，国家信息安全漏洞库（CNNVD）发布公告显示，自3月10日至4月2日，累计收录OpenClaw漏洞155个，其中超危级漏洞11个、高危级漏洞53个，OpenClaw多个版本受到漏洞影响。

“仅用半天时间便成功突破OpenClaw防线。”国内著名白帽安全团队DARKNAVY安全创新负责人陆晨透露，目前，国内主流“龙虾”部署模式主要分为两种：一类基于OpenClaw封装对话界面，另一类则提供服务器由用户自主配置。相比之下，前者安全隐患更大，一旦遭遇突破，攻击者便可直接夺取服务器控制权，乃至侵入内部网络大模型系统。

上海交通大学安泰经济与管理学院副院长刘少轩披露，近期某制造企业因急于求成部署OpenClaw，造成生产线停摆72小时，直接经济损失或超2000万元。另有某法律服务公司，由于未完善风险防控与数据保护措施，致使海量客户敏感信息外泄。

亚信安全相关负责人强调，现阶段网络攻击正呈现智能化、自动化发展趋势，攻击者借助AI技术实现勒索病毒载荷的自动生成、高仿真假冒内容制作，令攻击效率与隐蔽性显著增强。AI驱动的自主攻击智能体、依托深度伪造的商业欺诈，将构成2026年最严峻的安全威胁。

AI安全供应端加码 需求催生新机遇

国资委1月末公布的统计数据表明，央企已在工业制造、能源电力、智能网联汽车等关键领域，构建起逾千个AI应用示范场景，AI驱动产业转型的趋势愈发显著。与此同时，AI安全问题触发的行业忧虑，也孕育了崭新的安全需求，驱动AI安全供应端不断加码。

对此，东莞证券分析指出，近期OpenClaw等智能体技术加速落地应用，催生崭新的安全需求场景，加之网络安全领域政策红利持续释放，产业有望迎来新一轮增长契机。

长江证券预测，2026年我国网络安全市场规模或突破1500亿元，2030年有望达到3000亿元，年均复合增长率达18%-20%，产业正步入发展黄金阶段。

与此同时，AI安全创新产品与服务持续涌现。近期，上海人工智能实验室发布高安全产业级智能体平台SafeClaw，瞄准高安全需求领域的产业智能化升级，致力于引领行业从“事后补救”向“内生安全”转型。同时，该实验室还开源了可快速识别风险的智能体守护模型，并探索将安全规范嵌入智能体决策层的“内生进化”治理架构。

“最大的威胁并非已知风险，而是‘未曾预料的危机’，因此，当下的关键使命是，在AI能力迅猛提升的同时，前瞻布局内生安全体系。”上海人工智能实验室领军科学家胡侠表示，“此举意在将安全防护能力深度整合至AI发展全生命周期，为智能体时代的‘内生安全’供给系统性解决思路。”

AI治理持续完善 安全标准提速制定

伴随人工智能应用普及，人工智能治理问题愈发凸显。今年政府工作报告中明确提出“完善人工智能治理”，全国人大常委会工作报告强调“强化人工智能领域立法研究”。

在此形势下，人工智能安全标准制定进程提速。3月25日，工信部就《人工智能安全治理模型上下文协议应用安全要求》等行业标准草案公开征求意见。

4月初，人工智能安全标准工作组（WG9）宣布，将着力推进《网络安全技术 人工智能安全能力成熟度评估方法》《网络安全技术 人工智能应用安全分类分级方法》及《网络安全技术 人工智能技术涉及未成年人应用安全指南》等关键标准的落地执行。同时，在全国网安标委统一协调下，集中资源攻克内生安全与数据底座、新形态服务安全、系统应用安全及科学评估等领域的国家标准研制。

“应对AI引发的新型风险，需从政策制度、技术规范、执行机制三个维度协同发力。”奇安信副总裁张勇研判，展望未来发展趋势：其一，安全将由“可选项”升级为“必选项”，安全合规将从建议性转向强制性，可确立“AI安全投入占比不低于AI应用总投入15%”的行业基准线；其二，网络安全从“单点防御”转向“全链路协同”，达成“单点发现威胁，全网自动防御”；其三，从“人力防范”迈向“技术防范+智能防范”，AI对抗AI将成为攻防新常态；其四，从“被动响应”转向“主动防御”，构筑弹性防御体系，实现“即便遭遇攻击也能迅速恢复、确保核心数据零丢失”。（记者 叶健 吴蔚）