美方提醒大行防范Anthropic新模型带来的网络风险
综合多家媒体消息,美国财政部长斯科特·贝森特与美联储主席杰罗姆·鲍威尔近日在华盛顿紧急召集多家大型银行首席执行官,提醒其关注Anthropic最新AI模型“Mythos”可能引发的网络安全隐患。
会议缘起
本次会议在财政部总部召开,目的是让主要金融机构充分认识到Mythos模型及今后类似模型或带来的网络威胁,并督促各家银行提前采取防护措施,保障自身系统安全。出席人员包括花旗集团CEO范洁恩、摩根士丹利(177.84, -0.32, -0.18%)CEO泰德·皮克、美国银行(52.595, -0.12, -0.22%)CEO布莱恩·莫伊尼汉、富国银行(85.64, -0.38, -0.44%)CEO查理·沙夫以及高盛(906.57, 2.85, 0.32%)集团CEO大卫·所罗门。摩根大通(309.865, -0.47, -0.15%)CEO杰米·戴蒙也在邀请名单之列,但未到场。
Mythos模型的“突破性”能力
Anthropic于4月7日推出这一新一代AI模型,但由于担心其可能遭到恶意使用,决定目前只向少数合作伙伴开放,暂不面向公众发布。该公司称,Mythos可以“识别并利用所有主流操作系统和网页浏览器中的漏洞”。内部测试结果表明,该模型在自主发现和利用漏洞方面实现了“数量级提升”,找出了OpenBSD中存在27年的远程崩溃漏洞,以及FFmpeg中一个16年前留下、即便经过自动化工具扫描超500万次也从未触发预警的漏洞。
Project Glasswing:联合防护计划
Anthropic同时启动了名为“Project Glasswing”的网络安全协作项目,向12家科技巨头及约40家关键基础设施机构提供Mythos的有限访问权限,用于开展防御性质的网络安全工作。合作方包括亚马逊(238.23, 4.58, 1.96%)、苹果(259.5, -0.99, -0.38%)、谷歌(315.66, -0.71, -0.22%)、微软(371.09, -1.98, -0.53%)、英伟达、摩根大通等。
Anthropic还提供了价值1亿美元的API使用额度,并向Linux基金会和Apache软件基金会捐赠400万美元,以支持开源软件的安全维护工作。
Anthropic与政府之间的复杂关系
需要注意的是,Anthropic当前与美国政府之间正存在法律争议。美国国防部于3月5日将Anthropic列入“供应链风险”名单,禁止国防部及防务承包商在相关项目中采用该公司的AI技术。随后Anthropic提起诉讼,称这一决定“前所未有”,侵犯了其宪法权利。双方分歧的核心在于Anthropic反对其技术被应用于完全自主武器系统以及美国境内的大规模监控。
虽然双方仍有法律纠纷,Anthropic表示,围绕Mythos的“进攻性与防御性网络能力”,公司一直与美国政府官员保持持续沟通。对于此次会议,美联储、财政部和各家银行均拒绝置评。