AI技术对网络安全的冲击与重塑
人工智能（AI）正以超越传统机制保障数字系统安全的速度，深刻改变着网络安全格局。网络安全固有的对抗性与非对称性使这一变革尤为关键——防御者必须时刻守护全部资产，而攻击者只需突破一次便可达成目的。生成式人工智能、推理系统以及智能体系统的最新突破，正成为网络安全领域的分水岭。尖端AI系统正持续扩展攻防双方的操作空间。短期内，AI技术的迅猛发展更利于攻击一方，它缩短了攻击周期并降低了准入门槛；长远来看，若能进行系统性投入与协同，AI有望塑造一种更强大、更具弹性的"持续纵深防御"架构。然而，核心难题在于攻击者能力的演进速度远超测量手段与AI网络能力的发展，导致决策者不得不在高度不确定的环境中艰难抉择。
一、核心观点
1.人工智能构成网络安全的关键转折点，兼具短期风险与长期潜能
在AI融入网络安全的当前阶段，防御方已陷入攻击方在攻击速率、适应能力及资源利用效率上全面占优的困境，生成式AI的最新进展进一步扩大了这一失衡。推理系统与代理系统可同时赋能攻防两端，但短期内，技术进步通过压缩攻击链条的关键环节、降低攻击复杂度，使攻击者获得显著优势，增加了防御方阻断攻击者利用复杂漏洞的难度。
2.AI驱动的网络能力演进速率，远远超过其度量能力的发展
当前尚缺乏广泛认可的统一框架来评估基于AI的网络能力或追踪其演化轨迹。生成式AI系统缺乏明确的行为保障机制，进一步加重了风险评估的复杂性，限制了政策制定者与从业者及时调整应对策略的可能。
3.网络安全领域亟需加速优化升级，以应对近期挑战
全社会的网络安全基线水平必须全面提升，涵盖强化安全举措、优化防护体系、提升软件品质、加速威胁响应以及实现网络威胁情报的高效共享等维度。AI可为推动这一转型提供助力，但这一过程需要建立全新的激励机制与协调框架。
4.部分干预措施虽有助于降低风险并为防御方争取缓冲时间，但单凭这些措施往往难以达到理想效果
对先进模型实施受控访问、对关键AI硬件实施出口管制或其他限制等基于模型分发管控的手段，虽可能延缓进攻能力的扩散，但在技术快速扩散的全球生态中，难以长期维持效力。
5.从长远视角看，AI有望构建更为稳固的网络安全防御体系
包括AI驱动的持续性纵深防御在内的新兴方法，以及建模、测试与系统架构领域的进展，均具备将攻防天平向防御方倾斜的潜力，而这一潜力的释放有赖于持续的投资与协调。
二、关键挑战与风险
1.测量与评估的瓶颈
（1）行为保证缺失。生成式AI系统的行为本质上具有概率性而非确定性，这使得对其性能与安全性进行可靠预测异常困难。
（2）评估框架滞后。现行基准测试与评估框架主要聚焦"能力"维度（如能否完成任务），而网络安全的核心在于"韧性"（如系统在失败、被滥用或遭受恶意行为时的表现）。这一错位导致了评估的局限。
（3）风险分类繁复。风险可归结为三类：AI系统自身、人类用户以及人机交互。其中，人机交互引发的风险尤为棘手，因为它涉及难以量化的人类行为与不可预测的系统互动。
2.短期威胁加剧
（1）攻击能力呈指数级跃升。AI已显著压缩攻击流程中的关键步骤，从漏洞发现到利用开发，再到社会工程学，整个过程所需的时间与专业知识大幅减少。
（2）新型攻击面不断涌现。AI驱动的自动化攻击（如自主漏洞挖掘、精准钓鱼）和新型攻击模式（如深度伪造、合成身份）正在浮现，对既有防御体系构成严峻挑战。
（3）"双刃剑"效应。同一套技术既可用于攻击，也可用于防御，但目前攻击方在速度与资源上占据明显上风。
3.长期战略机遇
（1）"持续纵深防御"。AI有望将网络安全从静态、偶发的防御模式，转变为一个以态势感知、漏洞发现、补丁、形式化验证、威胁情报生成和事件响应为核心的、持续运行的动态闭环系统。
（2）赋能防御方。通过自动化威胁检测、强化的情报共享、更高效的漏洞修复与更强大的软件保障，AI能够成为防御方的有力武器，帮助其应对日益复杂的威胁。
三、应对策略与建议
1.短期行动：化解风险，争取时间
（1）管控访问与出口。对前沿AI模型的访问实施严格管控，限制关键硬件的出口，并对模型分发施加约束，以延缓最强大攻击能力的扩散。
（2）夯实基础防御。投资于更坚固的架构、更高的软件品质、更快的威胁响应机制，并促进组织间关于威胁情报的共享。
2.长期投入：塑造韧性
（1）系统性投资。必须在技术、架构和制度三个层面进行大规模投入，包括开发新的测量与评估框架、对齐激励机制、加强公私协作。
（2）政策与治理。需要建立强有力的问责机制、安全评估实践与监管框架，以弥合能力发展与安全实践之间的鸿沟。
四、结语
面对AI带来的深刻变革，网络安全的未来取决于能否迅速提升基线安全水平，并在能力与测量之间建立有效的平衡。这要求政府、产业界与学术界通力合作，共同构建一个既能激发创新又能确保安全的生态系统。否则，一个"能力领先、测量滞后"的时代将使关键基础设施暴露于前所未有的风险之中。
引用：National Academies of Sciences, Engineering, and Medicine. 2026. Implications of AI for Cybersecurity: A Rapid Expert Consultation. Washington, DC: The National Academies Press. https://doi.org/10.17226/29493.