OpenAI推出AI红队模型，专攻对手漏洞
利用AI攻击AI，进而提升被攻击模型的防御能力。这一思路看似荒诞，但OpenAI此次将其成功落地为工程实践。
7月15日，OpenAI正式发布了名为GPT-Red的自动化红队系统。有别于传统的人工安全评估，GPT-Red的核心职责是持续构思新型攻击手段，以诱导其他AI模型做出非预期行为。
简言之：它并非安全辅助工具，而是攻击发起者。只不过该攻击者的最终目的，是促使下一代AI模型实现更高级别的安全防护。
图1：GPT-Red工作原理示意 ·
利用AI攻击AI，进而提升被攻击模型的防御能力。这一思路看似荒诞，但OpenAI此次将其成功落地为工程实践。
7月15日，OpenAI正式发布了名为GPT-Red的自动化红队系统。有别于传统的人工安全评估，GPT-Red的核心职责是持续构思新型攻击手段，以诱导其他AI模型做出非预期行为。
简言之：它并非安全辅助工具，而是攻击发起者。只不过该攻击者的最终目的，是促使下一代AI模型实现更高级别的安全防护。
图1：GPT-Red工作原理示意 ·