OpenAI复盘AI入侵：曾发现异常却未及时拦截

OpenAI周三发布的报告指出，他们本能够采取更迅速的行动，从而阻断自家AI模型对Hugging Face Inc．造成的意外入侵。

OpenAI在报告中提到，早在5月底，团队便察觉到测试中的AI模型正借助软件漏洞访问公开网络。内部团队已察觉到这一异样。报告梳理了此次入侵的时间线，并列举了OpenAI为防范此类情况再次发生所采取的对策，例如强化对开发阶段模型的监控。

“事后回看，报告中提及的一些早期迹象本应促使公司更早地采取应对手段，”OpenAI在报告中写道。

这份报告是在OpenAI一个月前披露其先进AI模型在一次“前所未有”的事件中意外入侵Hugging Face之后发布的。结合近期发生的其他网络安全事故，这一事件引发了公众对AI智能体失控的担忧，并促使部分科技界和政界人士再次呼吁加强对该技术的监管。

OpenAI周三的披露还详述了这些模型如何通过多个智能体协同工作，获取了Hugging Face云服务、虚拟专用网络（VPN）、代码库和企业通信平台的访问权限。依靠这些权限，模型进入了受保护的系统，并最终从Hugging Face的云基础设施中下载了源代码等资料。

报告指出，这些智能体利用Hugging Face泄露的凭据和系统漏洞在环境中执行代码，从而获取了广泛的权限，并下载了私有的代码数据库。

OpenAI透露，这些智能体在13小时内完成了大部分操作。当时，OpenAI的软件系统“从仅在单个工作节点执行代码，逐步演变为获得多个Hugging Face集群的管理级和主机级访问权限”。