AI互攻：OpenAI用红队测试打磨GPT-5.6

让AI攻击AI，看似机智，但漏洞一旦暴露，也可能被恶意利用。

OpenAI推出了GPT-Red，专为对抗自家模型设计的AI系统。它负责挖掘GPT-5.6的缺陷、构造对抗样本、诱导模型异常行为，所获数据用于优化下一代模型。这一机制称为"红队测试"。

01 红队测试为何关键

大模型的安全性不仅取决于其训练内容，更取决于面对恶意输入时的反应。GPT-Red可批量生成绕过安全过滤的提示变体，帮助OpenAI在发布前系统性发现并修补攻击路径。这是AI安全领域广受认可的核心方法。

图1：AI红队测试流程 ·