Anthropic邀科技巨头内测新AI模型Mythos,共筑网络安全防线
人工智能企业 Anthropic PBC 正对科技公司开放一款功能更为强大、尚未正式面世的人工智能模型,旨在为这款先进AI系统未来可能大规模部署所带来的网络攻击风险提前做好应对准备。
Anthropic 于周二公布,将与亚马逊(221.83, 8.06, 3.77%)、苹果(257.29, 3.79, 1.50%)、微软(378.445, 6.16, 1.65%)、思科(82.46, 1.78, 2.21%)及其他相关机构共同启动一项名为“丛雀计划”(Project Glasswing)的专项活动。参与方将能够使用Anthropic最新研发的Mythos模型,来探查自身产品中的安全缺陷,并与业界伙伴分享检测发现。
这家AI初创企业表示,目前尚无向公众发布Mythos的打算,并将依据丛雀计划收集的反馈,为该技术制定相应的安全规范。
这一举措折射出科技行业日益增长的忧虑:更高级的AI模型可能被犯罪分子或国家级黑客利用,用以发掘源代码漏洞、突破网络防护体系。AI技术已被用于辅助开展网络攻击。曾有黑客借助AI工具发动入侵,波及墨西哥政府相关系统。
Anthropic的竞争对手OpenAI此前也着重强调其模型的网络安全能力在持续增强,并推出了试点项目,力图让防御方能够“优先运用”其工具。
Anthropic前沿红队网络安全负责人牛顿・程指出:“我们认为这不仅是Anthropic一家公司的课题,而是整个行业面临的挑战,需要私营企业和各国政府协同应对。我们期望通过丛雀计划,帮助网络防御者取得先发优势。”
Anthropic透露已就Mythos模型及其安全相关能力与美国官员进行过交流,但未具体说明涉及哪些机构。程先生提到,公司此前已与美国网络安全和基础设施安全局(CISA)、美国国家标准与技术研究院(NIST)展开合作。
Anthropic说明,Mythos是一款通用型AI模型,并非专为网络安全场景而设计。但程先生表示,Mythos已经发现了若干安全隐患,其中包括一个存在于关键互联网软件中、历史长达27年的漏洞。该AI系统还在一款流行视频软件的代码中找到一个存在了16年的缺陷,而自动化检测工具此前已对其进行了高达500万次的扫描,却始终未能识别。
Anthropic研究产品管理主管黛安・佩恩表示,公司已设立防护机制,确保丛雀计划的参与方对Mythos模型的访问受到严格控制,但出于安全考虑,拒绝透露更多详情。
责任编辑:郭明煜
新浪财经声明:此消息系转载自合作媒体,新浪财经登载此文出于传递更多信息之目的,文章内容仅供参考,不构成投资建议。
郑重声明:1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。