贾西抢先预警:亚马逊推动特朗普政府限制Anthropic模型
据两位内部消息人士称,本周亚马逊(238.55, -2.96, -1.23%) CEO安迪・贾西联合多位科技界领袖,向特朗普政府高官通报Anthropic两款顶尖大模型潜藏的国家安全风险。
消息源指出,作为Anthropic的最大投资方及核心云服务商掌舵人,该负责人近期与政府进行了多轮磋商,直接促使特朗普政府于上周五深夜针对Anthropic的克劳德神话 5(Claude Mythos 5)和寓言 5(Fable 5)推出新的出口管制,理由系国家安全威胁。新规禁止外国人员使用这两款模型;Anthropic方面表示,为符合监管规定,已暂停所有客户对这两类模型的访问。
亚马逊发言人对行业媒体《The Information》回应:“作为服务众多政企客户的顶级云厂商,政府常就潜在安全风险咨询我方意见。关于此类沟通的具体细节,我们不便对外透露。”
此次出口管制是Anthropic与特朗普政府持续博弈中遭遇的另一打击。近几个月,这家克劳德大模型开发商与美国政府关系不断恶化,起因是今年3月美国国防部将其模型列入供应链风险清单。矛盾核心在于双方存在根本分歧:Anthropic大模型是否适用于国内大规模监控、自主致命武器等高危场景。
一位美国政府高级官员周六透露,白宫目前暂无计划将针对Anthropic高端模型的出口管制扩展至其他AI企业。
Anthropic上周五表示,公司已协同美国及多国政府机构排查寓言系列模型的安全漏洞。该企业此前曾预警,其AI系统能力已极度发达,甚至能比人类更高效地挖掘软件程序漏洞。一位接近Anthropic的消息人士称,政府此前并未反对寓言 5 模型的对外发布。
贾西与政府的沟通,以及白宫出台模型访问限制,也折射出科研人员与网络安全专家的普遍忧虑:Anthropic最新两款大模型具备超强能力,可迅速挖掘各类新型安全漏洞与系统利用缺陷。本周二,Anthropic推出克劳德寓言 5 精简版,刻意削弱核心能力,禁止其回答网络安全、前沿AI研究相关问题。
Anthropic上周五晚间发布官方博客称,美国政府已掌握一套可绕过寓言 5 内置安全护栏的提示词越狱攻击方法。
Anthropic证实,已有演示案例证明该越狱手段能够挖掘系统漏洞,但强调被挖出的漏洞“技术门槛较低”,市面上其他公开大模型同样能识别同类漏洞。
两位内部人士透露,在听取贾西与其他科技高管的反馈后,美国国家网络总监肖恩・凯恩斯克罗夫特于上周五召集白宫高层开会,与会官员认定,实施出口管制是管控Anthropic风险最直接有效的手段。
美国国家网络总监办公室发言人暂未就此发表评论。
四位熟悉通话流程的人士表示,会议结束后,Anthropic CEO达里奥・阿莫迪于上周五与政府官员进行了通话。会谈中,Anthropic团队解释,此次越狱手段挖掘的漏洞难度偏低,其他大模型均可实现同类漏洞挖掘;但美方告知企业,政府已敲定落地出口管制的决定,不会更改。
Anthropic与亚马逊构建了深度多元的合作关系。这家电商巨头今年4月披露,自2023年起已向Anthropic投资130亿美元,并计划根据商业化里程碑再追加200亿美元投资。亚马逊自研Trainium芯片为Anthropic大模型提供训练与算力支撑,Anthropic全部模型均部署在亚马逊云科技(AWS)平台。
今年亚马逊同时大手笔布局Anthropic竞品OpenAI,承诺最高投资500亿美元,并首次通过AWS渠道对外分销OpenAI最新大模型。
特朗普政府此番出台AI出口管制,距离其两周前签署人工智能行政令仅隔数日。该行政令推出一套自愿协作框架,要求AI企业在向合作伙伴、公众发布高端模型前,主动将模型交由政府提前评测。
《The Information》此前报道,这份行政令诞生于白宫内部激烈博弈:政府内部曾争论,是否要对发布前沿大模型的AI企业实施更严苛的许可审批制度。
责任编辑:郭明煜
新浪财经声明:此消息系转载自合作媒体,新浪财经登载此文出于传递更多信息之目的,文章内容仅供参考,不构成投资建议。
郑重声明:1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。