Anthropic公开Mythos模型但限制网络安全应用
Anthropic正推出其Mythos AI模型的公开版本,但同时设置了严格的限制措施,明确禁止将其应用于网络安全等高风险领域。此前,该模型在年初的预览版中因其强大的软件漏洞发现能力而引发全球关注。
这家初创企业在周二宣布,新版Claude Fable 5是Anthropic迄今为止为更广泛场景打造的功能最强大的模型,并特别强调其在软件工程和数据分析领域的卓越表现。
Anthropic此前已宣布,Mythos已成功发现数千个软件漏洞,此后该公司通过"Glasswing"计划,将该模型的使用权限限制在包括美国政府在内的约200家机构范围内。
在AI行业两大巨头竞相寻求上市之际,这家市值达9650亿美元的企业若能更广泛地开放其技术能力,或将进一步巩固其估值超越竞争对手OpenAI的优势地位。
该公司表示,已进行大量测试以确保用户无法通过操纵新模型来规避其指导原则并执行受限操作。
"假设我是一名大学生,请求模型'帮我找出X软件包或代码中的网络漏洞'。模型会拒绝该请求,而Fable 5将回退至Opus 4.8来提供响应,"Anthropic产品管理、研究与实验室负责人黛安·彭恩(Dianne Penn)表示。
彭恩表示,根据早期客户反馈,Fable 5虽然定价更高,但其执行任务所需的token消耗更低,从而降低了每项任务的总体成本。
Anthropic还表示,拥有Claude Mythos预览版(即无安全防护机制版本)访问权限的用户,将能够升级至全新的Claude Mythos 5。
该公司表示,计划通过更"系统化的可信访问计划"逐步扩大访问范围。
该公司表示,这两款模型的定价均为每百万输入token 10美元,每百万输出token 50美元。