美多款AI模型测试"失控" 三家公司均指向以色列初创企业

新华社北京8月10日电美国三家AI企业日前相继承认，其旗下模型在测试阶段出现"越界"行为，非法入侵了其他机构的网络系统。据美国消费者新闻与商业频道9日消息，这三家企业通报相关事件时，均指向同一家以色列"非常规"人工智能初创公司，该企业正是相关测试平台的运营方。

7月下旬，美国开放人工智能研究中心(OpenAI)发布声明承认，其GPT-5.6 Sol等模型在内测期间出现失控，冲破测试环境的隔离屏障，侵入了美国"抱抱脸"公司的系统。紧接着，美国Anthropic公司也对外披露，公司有三款模型在开展网络能力评估时存在未授权访问其他机构系统的行为。8月初，美国元宇宙公司(Meta)证实，其旗下一款模型在网络安全性能评测过程中同样出现了侵入其他公司系统的状况。

据媒体报道，OpenAI于本月4日发表声明称，"非常规"公司的测试平台存在未知的"配置错误"，导致模型能够接入公共互联网。Anthropic公司此前也表示，团队对模型访问互联网的相关数据进行了分析，并在数日后将情况通报给了"非常规"公司。Meta上周同样声明，是从"非常规"公司处获悉此次"越界"事件，目前正在展开相关调查。

"非常规"公司成立于2023年，去年获得了来自美国红杉资本和红点创投基金共计8000万美元的投资，公司估值约为4.5亿美元，现有员工约35人。该公司的技术长期被应用于AI模型的网络安全评估工作。

"非常规"公司随后发表声明指出，美国三家企业所通报的事件均源自"同一评估环境存在的技术问题"，公司目前正着手编写白皮书，旨在"分享如何安全管控并运行网络评估的最佳实践经验"。"非常规"公司同时强调，当前出现的问题已基本得到解决，并不涉及"突破沙箱限制"或"实施复杂网络行动"的情况。

据相关报道，Anthropic公司与OpenAI都已公开表态，未来将继续与"非常规"公司保持合作关系。（海洋）