筑牢AI安全防线 标准化建设提速

点击上方“昭觉医保”| 关注我们

导读

随着国家“人工智能+”战略的深入实施，各类AI智能体及应用已广泛融入生产生活。近期频发的安全事件引发关注，也成为产业与学界共同攻关的焦点。近日，全国网络安全标准化技术委员会（简称“网安标委”）正式组建“人工智能安全标准工作组”（WG9），表明我国AI安全标准体系构建进入系统性推进期。

近期，全球AI行业安全事故频发。3月底，Anthropic公司的Claude Code工具源代码泄露，被视为AI行业首例核心代码泄露事件。

奇安信专家章磊分析称，结合公开信息及官方回应，此次泄露属于供应链事故，是发布流程中的人为疏忽。“好比本该只交付成品，却把全套图纸送出。”

章磊指出，核心逻辑一旦曝光，产品运作便透明化。竞争对手可研究架构、模仿功能，安全规则暴露也易致漏洞被利用，从而绕过限制。

今年爆火的OpenClaw（俗称“龙虾”）接连曝出隐患。4月3日，CNNVD通报显示，3月10日至4月2日期间，该工具采集漏洞155个，含超危漏洞11个、高危漏洞53个，多版本受影响。

国内知名白帽团队DARKNAVY总监陆晨表示，团队仅用一下午就攻破了OpenClaw。目前主流“龙虾”方案分两类：一是基于OpenClaw套壳，二是提供服务器自配。前者风险更高，一旦攻破，黑客可获服务器权限甚至访问内网大模型。

上海交大安泰副院长刘少轩透露，某制造业企业因仓促上马OpenClaw致产线停产72小时，损失或超2000万元；另一家律所因防范不足致客户隐私数据泄露。

亚信安全指出，网络攻击正向智能化、自动化演进，黑客利用AI生成勒索载荷、制作钓鱼内容，提升攻击效率与隐蔽性。AI自主攻击与深度伪造诈骗将成为2026年最紧迫的挑战。

国资委数据显示，央企已在工业、能源、智能网联汽车等领域打造超1000个AI应用场景，AI赋能转型明显。同时，安全问题催生新需求，推动安全供给侧发力。

东莞证券认为，OpenClaw等智能体技术落地催生新安全场景，叠加政策利好，行业将迎增长机遇。

长江证券预测，2026年国内网络安全市场规模将破1500亿，2030年达3000亿，年复合增长率18%-20%，处于发展黄金期。

新品服务持续发布。上海人工智能实验室推出SafeClaw平台，聚焦高安全产业转型，推动行业从“事后安全”迈向“内生安全”。实验室还开源了风险诊断模型，探索将安全准则内嵌决策层的“内生进化”治理框架。

上海人工智能实验室科学家胡侠表示：“最危险的并非已知风险，而是‘未料之险’。当前核心任务是在AI能力飙升时，前瞻构建内生安全体系。”旨在将安全深度融入发展全链条，为智能体时代提供系统性解决方案。

AI广泛应用引关注。政府工作报告提出“完善人工智能治理”，全国人大常委会报告强调“加强立法研究”。

标准制定加速。3月25日，工信部公开征求《人工智能安全治理模型上下文协议应用安全要求》等行业标准意见。4月初，WG9表示将推动《人工智能安全能力成熟度评估方法》等核心标准落地，并攻坚内生安全、数据基座等领域国家标准。

奇安信副总裁张勇认为，需从政策、技术、机制三层面协同。未来：一、安全从“可选配”变“必标配”，合规由推荐转强制，设定AI安全投入不低于15%的基准；二、防护从“单点”走向“全链条协同”，实现“一处发现，全网免疫”；三、从“人防”走向“技防+智防”，AI对抗AI成常态；四、从“被动应急”走向“主动免疫”，构建韧性防御，实现攻击后快速恢复、核心数据不丢。