人工智能防御网络威胁的新纪元

当Anthropic公司最近披露一起网络间谍活动时，该活动利用人工智能在很大程度上自主执行攻击，媒体报道将其描绘成一种全新的、不可控的威胁。然而，这起事件最引人注目之处并非攻击者利用人工智能提升了自动化程度和攻击速度，这其实在预料之中。真正值得关注的是，Anthropic公司利用人工智能检测并阻止了这次活动。在此次事件中，攻击者的速度更快，但这种状况必须改变。

网络安全正演变为攻击者与目标所使用的人工智能系统之间的一场较量。决定胜负的关键因素在于哪一方拥有更丰富的数据、更优秀的模型，并且能够以机器速度采取行动。

防御网络比攻击网络更难。防御者必须监控每一扇虚拟的门和窗；而攻击者只需找到一扇虚掩着的即可。在人工智能时代，攻击者可以持续不断地试探每一扇虚拟的门把手，人类防御者根本不是对手。关键在于我们要多快部署数字防御者，以便在攻击者之前试探并加固这些门把手。

回顾近年来发生的两起攻击事件：SolarWinds事件和Colonial Pipeline事件。想象一下，人工智能本可以让这些事件造成更大的破坏，或者人工智能本可以如何通过提前解决漏洞并在攻击后实现更快恢复，从而让防御者占据上风。

在针对SolarWinds公司的攻击中，俄罗斯将恶意代码注入到这家软件制造商的更新程序中，导致约1.8万名客户受到影响。攻击者在软件构建过程中一个难以检测的环节植入了恶意代码。如今，人工智能可以对软件进行深度、自动化的审计，检测出人类审查员在数百万行代码中可能遗漏的恶意代码。

在Colonial Pipeline攻击事件中，总部位于俄罗斯的黑客利用一个被泄露的密码进入了管道公司的网络，导致燃料短缺和加油站恐慌性抢购。人工智能使这类攻击变得更加危险，因为它可以生成数千封个性化的网络钓鱼邮件，更快地收集更多密码。但如今，Colonial公司也可以利用人工智能识别存在容易被泄露密码的系统，从而防止攻击发生。人工智能可以识别出行为模式异常的账户，并让人工智能代理立即阻止该账户的访问。

唯一的问题是，对手采用人工智能的速度是否会快于防御者被允许或鼓励采用人工智能的速度。一些公司已经在人工智能防御领域走在了前沿，为其他公司树立了榜样。OpenAI的Aardvark是一款人工智能安全研究员，它可以持续审查代码，并在漏洞被利用之前提出修复建议。思科的Project CodeGuard是一个开源框架，它将安全编码实践嵌入到工作流程中，指导人工智能助手生成安全代码。新加坡开发了Project Moonshot，这是一个开源框架，用于对大语言模型进行压力测试，以抵御攻击。

为了鼓励采用人工智能防御，美国政府必须以身作则，并更新那些阻碍训练防御性人工智能模型的法规。美国政府是世界上最大的信息技术服务采购商。国防部和国土安全部应该部署人工智能防御系统，并要求政府承包商也这样做。采购权可以加速人工智能防御的采用：如果你想向美国军方销售软件，你的代码必须经过人工智能代理的审查。而且，如果说有什么应该免受网络攻击的话，那就是美国军事行动中使用的软件。

人工智能并不完美，也会犯错。五角大楼和国土安全部应该公开分享其人工智能网络安全和测试有效性的数据。训练网络防御模型以及在安全运营中使用自动化，受到一些法规和标准的挑战，如《健康保险流通与责任法案》以及美国一些州的隐私法和欧洲的《通用数据保护条例》。《通用数据保护条例》要求对具有重大影响的人工智能决策进行人工监督，这增加了遏制数据泄露（尤其是跨境数据泄露）所需的时间。攻击者不受此类限制的约束；防御者也不能承受这样的限制。

国土安全部应迅速建立其人工智能信息共享与分析中心，以打击人工智能的恶意使用。美国国家标准与技术研究院帮助美国公司抵御人工智能驱动的网络攻击的中心，应成为企业持续共享数据、针对不断演变的攻击技术完善模型、模拟攻击并修复漏洞的中心场所。

业界需要提高人工智能模型网络安全的透明度。许多人工智能公司已经根据客观指标公布了性能排名。保险公司可以通过为采用公认基准的公司提供更低的保费来提供帮助。

美国政府可以提供工具，帮助企业实施网络最佳实践。新的美国国家标准与技术研究院中心可以为企业提供技术培训，并提供论坛，以便在电力系统等无故障网络中测试自主代理的安全性。

我们正处于一场军备竞赛中。如果我们依靠人类速度的防御来对抗机器速度的攻击，我们将必败无疑。我们必须建立一个由持续学习、安全的防御代理组成的网络，这些代理能够比任何人类更快地检测、推理和反应。