人工智能渗透关键设施：安全挑战与合规之道

前文探讨了对抗攻击——恶意方如何直接破坏AI系统。

本文聚焦一个更宏观的议题：人工智能正深度嵌入关键信息基础设施。

电力网络借助AI调配、金融机构运用AI控险、轨道交通依赖AI调度、医疗系统采用AI诊断、政务服务启用AI审批。

这并非未来展望，而是当前现实。

核心难题在于：关键信息基础设施一旦出故障，波及的不是个体或企业——而是国家安全与社会民生。

2025年5月，贵州某政务平台遭入侵，民众受损超400万元。护网-2025专项活动将其列为首要案例。

2026年4月，Dragos报告揭示：攻击者利用AI精准打击美国某水处理设施OT系统——AI沦为武器，矛头对准关键基础设施。

2026年1月1日，新版《网络安全法》生效——CIIO（关键信息基础设施运营者）面临最高1000万元罚款，直接责任人最高100万元。

AI融入关键设施，机遇与危机并存。法律界限，已然划定。

《关键信息基础设施安全保护条例》第二条：涵盖公共通信与信息服务、能源、交通、水利、金融、公共服务、电子政务、国防科技工业等关键行业和领域，以及其他若遭破坏、功能丧失或数据泄露，可能严重威胁国家安全、社会民生、公共利益的重要网络设施与信息系统。

并非“企业规模庞大”就是CII。认定标准核心：

一旦遭受破坏、功能丧失或数据泄露→可能严重危及国家安全、社会民生、公共利益

实例：Dragos报告——AI被武器化攻击水处理厂（2026年4月）

关键问题：AI在CII中的判断失误，法律责任如何界定？归咎于AI供应商、CII运营者，还是“系统故障”？

这正是新《网络安全法》聚焦的供应链安全议题。

《人工智能安全治理框架》2.0版（2025年9月）规定：在关键调度、控制及高风险业务场景中，必须保留人工确认、复核和干预权力。

影子AI是CII安全的死角——运营者甚至未察觉AI已嵌入自身系统。

AI应用场景：CIIO采购境外AI模型或服务，若可能影响国家安全——必须通过安全审查。未经审查即部署，处采购金额1至10倍罚款。

“AI可辅助决策，但关键决策权不可让渡给AI。”这是法律对AI进入关键设施的基本立场。

显著区别：AI安全事件不以“异常流量”或“系统崩溃”等传统迹象显现——需定制监测指标与响应流程。

监管新动向：不仅惩处CII运营者，也追究供应链企业（承建商、运维商）责任。CIIO的供应链安全审查义务不再是“可选项”，而是“必选项”。

共同原则：AI可辅助CII，但关键决策权必须由人掌控，AI系统需具备可解释性、可审计性、可接管性。

核心概述：

人工智能正挺进关键信息基础设施，这不是可选方案而是必然课题。法律立场清晰——AI可提供辅助，但关键决策权不能放手；AI可使用，但须经安全审查、可解释、可接管。千万元罚单，是为失控风险而设。

后续预告：企业AI治理架构——十篇系列的终结篇