五眼联盟警告AI威胁将至 各国需紧急应对
五个英语国家组成的"五眼联盟"情报机构发布了一份罕见的联合声明,警告具有强大破坏力的AI模型可能在数月内问世,这类模型能够对政府和企业发起毁灭性的网络攻击,呼吁各国立即采取应对措施。
五眼联盟成员包括澳大利亚、美国、英国、新西兰和加拿大。该组织在周一晚间发布的声明中指出,虽然AI技术可以帮助人们加强网络安全防护,但同时也可能加速网络威胁的演变,增加威胁的范围和复杂性。
本月初,美国政府突然限制外国公民使用Anthropic公司开发的AI模型Mythos和Fable 5,此举引发了业界和公众的广泛讨论,也使开源模型的发展受到更多关注。
Fable 5是Anthropic最新推出的模型之一,据称是Mythos的升级版本。Mythos是一款强大的AI模型,于今年早些时候发布,能够检测网络系统中的漏洞。但由于担心其可能被恶意利用,该模型目前仅供经过严格审查的组织和公司使用。
"五眼联盟"认为,最前沿的AI模型将从根本上改变网络攻防的格局,而且这一转变的时间节点不是几年,而是几个月。这将降低网络犯罪分子的入侵门槛,并提高网络攻击的速度和复杂性。
该机构强调,在这种情况下,网络韧性对于维护业务连续性、增强市场信心和创造长期价值至关重要。这需要整个组织和社会各界共同应对。
悉尼大学美国研究中心国家安全和人工智能专家Olivia Shen指出,最新AI模型的不同之处在于,它们非常擅长生成漏洞利用程序。
她补充说,尽管目前全世界的注意力都集中在Anthropic,但其他公司也可能开发出下一个功能强大的AI产品。大型企业通常已经在网络安全方面投入了资金,所以准备得更充分,但投资不足的中小型企业基本上就像待宰的羔羊一样。
"五眼联盟"对此强调,企业和领导者应该投资网络防御,升级旧系统或修补有缺陷的软件,并限制对关键系统的访问权限。