特朗普政府下令 Anthropic紧急关闭Mythos访问
在特朗普政府颁布了一项史无前例的命令,禁止所有外国人接触其技术后,Anthropic已切断了对包括Mythos在内的高科技人工智能模型的访问权限。
该公司在声明中指出,美国政府要求其停止所有外国人对Fable 5和Mythos 5模型的访问,无论其身在何处,理由是国家安全。一名美国官员证实,商务部已发送了该信函。随后,该模型开发商切断了所有客户对这些系统的访问,以确保合规。
美国政府此前从未采取过如此全面的措施来限制外国获取美国公司开发的前沿AI模型。特朗普和拜登政府都曾限制半导体和超级计算机等关键技术的出口,也有人讨论过封锁AI模型。然而,针对软件本身的限制引发了宪法和商业方面的多重担忧。
Anthropic称,政府下达该命令是因为发现其近期发布的Mythos衍生版本Fable 5存在“越狱”(绕过安全护栏)的可能性。此前,该公司已禁止Fable 5执行网络安全任务。
“我们认为,仅因发现一处有限的潜在越狱风险,就召回一款面向数亿用户的商用模型,是不合理的。”Anthropic在其官方网站上表示,“如果全行业都执行此标准,所有前沿模型提供商的新模型部署基本都会陷入停滞。”
政府以国家安全为由对一系列AI模型实施广泛限制,可能为OpenAI、谷歌母公司Alphabet、Meta等所有主要AI模型开发商开创先例。英伟达首席执行官黄仁勋和OpenAI首席执行官萨姆·奥特曼等行业领袖此前均呼吁美国政府推广美国AI系统以维护其领先地位。
Anthropic称,于纽约时间周五下午5时21分收到政府命令。这份在周五下班前发出的指令与特朗普政府此前的立场及最近签署的行政令相矛盾——该行政令曾表示政府不会针对模型审查实施许可制度。
周五的指令还可能加剧Anthropic与特朗普政府某些派系之间长期存在的紧张关系。今年早些时候,该AI开发商因技术被用于军事和监视目的与五角大楼发生冲突。此后,政府将该企业列为美国供应链风险企业,并命令联邦机构逐步停止使用其产品。
非上市公司Anthropic长期以来将自己定位为“更负责任的AI开发商”,并于今年4月首次向极少数企业和机构发布了Mythos模型,警告其具备发现网络安全漏洞的能力,大范围分发风险过高。
有迹象表明,此次有限发布本可缓解Anthropic与特朗普政府之间的紧张关系:此前有报道称,美国政府曾准备让联邦核心机构使用Mythos的一个版本。
Mythos也促使特朗普政府加速制定AI政策,近期的行政令提出了自愿模型审查制度,并明确表示该行政令不构成强制性许可制度。
美国AI开发商正竞相推出最先进模型以向投资者证明技术的盈利能力,而政府的最新限制与此趋势相悖。在SpaceX完成历史性IPO后,OpenAI和Anthropic均计划最快于今年上市。
为了抢占发布前沿AI模型的先机,Anthropic本月早些时候发布了一篇长博客,呼吁建立一种机制,由政府和AI开发商共同决定何时放缓技术研发以避免潜在风险。
“全球最好能拥有一种选择,即展示或暂时暂停”存在危险的AI研发,该公司当时在博客中表示。AI技术发展迅速,其效率可提升人类工作效率数千倍,甚至取代人类工作,从而产生一系列新的风险。
欧盟委员会表示,正在评估Anthropic的声明,并与盟友就先进AI模型的潜在风险和网络安全问题进行持续沟通。欧盟委员会补充说,最新事态凸显了欧洲推进技术自主的必要性。
责任编辑:李桐
新浪财经声明:本文系转载自合作媒体,旨在传递更多信息,文章内容仅供参考,不构成投资建议。
郑重声明:1.根据《证券法》规定,禁止编造、传播虚假信息或误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。