OpenAI讓AI化身黑客自我檢測

OpenAI，開始用AI“黑客”攻擊自己了。這一次，它推出的不是更強的模型，而是一個專門找漏洞的系統——GPT-Red。它的角色很簡單，也很危險：像真正的黑客一樣，專門攻擊OpenAI自己的AI模型。而這，可能是AI安全進入新階段的標志。過去，大模型上線前都會經歷一輪“紅隊測試”：由安全專家設計各種刁鉆問題，試圖誘導模型說出不該說的話，或者執行不該執行的任務。但問題是——人類已經有點跟不上了。模型越來越強，攻擊方式越來越覆雜，僅靠人工，很難覆蓋所有可能的漏洞。於是，OpenAI幹脆換了一種思路：讓AI來當