金融圈震动!超级AI模型引恐慌
这次会议是在美国财政部位于华盛顿的总部召开的。贝森特和鲍威尔出席,目的是为了让银行体系充分认识到Anthropic旗下的Mythos模型及其同类技术可能存在的隐患,以便提前采取行动保护核心系统。
这次临时召集的会议,进一步表明监管层已经把“新一代网络攻击”视为金融业面临的最大风险之一。所有参会的银行都被认定为“系统重要性金融机构”,它们的稳定与否直接关乎全球金融体系的安全。
Anthropic表示,其Mythos模型的能力有了显著提升——在用户指令的驱动下,它可以识别并利用主流操作系统和网络浏览器中的漏洞。
在会议上,美国监管层明确提醒银行高管,必须认真对待Mythos模型,并利用它的能力来检测漏洞。
他们还表示,政府官员并未指出针对金融机构的具体威胁,而是总体上鼓励银行将该模型应用到自己的系统中,以提高防御能力。
监管层的警惕与Anthropic自身的谨慎态度是一致的。目前该模型仅向少数大型科技公司和金融机构开放,包括亚马逊、苹果、摩根大通等。这些公司参与了名为“Project Glasswing”的项目,旨在类似AI模型广泛发布之前,加固关键基础设施的安全。
Anthropic还表示,在Mythos发布之前,已经就其“进攻性和防御性网络能力”与美国政府进行了沟通。
据透露,Anthropic的Mythos模型将被列入英国央行下一次“跨市场运营韧性小组”(CMORG)及其AI工作组的会议议程,预计会议将在未来两周内举行。参会方将包括英国财政部、金融行为监管局以及国家网络安全中心的代表。
在美国发出警告并要求高管认真对待该模型以识别系统漏洞后,华尔街银行已经开始在内部测试Mythos。本周五,加拿大央行也与多家银行和金融机构开会,讨论该模型可能带来的网络安全风险。
这一系列会议反映出监管层日益增长的担忧:新一代网络攻击正成为金融业面临的最大风险之一。
Mythos到底有多强?
Anthropic此前指出,该模型在测试中既能识别也能利用多种系统漏洞。尽管这些案例未直接涉及金融机构,但其中一个案例显示,其安全团队成功攻破了浏览器,使黑客搭建的网站能够读取另一个网站的数据(例如受害者的银行信息)。
Anthropic安全团队在一篇文章中称,Mythos预览版“完全自主地发现”了一种读取多个不同浏览器中存储信息的方法,并进一步利用这种能力寻找利用路径。
在另一个案例中,Mythos找到了一种通过“多重漏洞组合”攻击浏览器的方法。这种“漏洞链”对人类黑客来说通常难以同时发现和利用,但却可以成为进入高安全系统的途径。
美国国家经济委员会主任凯文·哈塞特在采访中表示,政府正在采取一切措施确保公众免受这些潜在风险,其中包括Anthropic同意在官员完全评估前暂缓公开发布。
停牌!翻倍牛股,将被ST