OpenAI 公布 GPT-Red：内部自动化红队模型在提示注入测试中以 84% 对 13% 击败人类红队成员
OpenAI Details GPT-Red: An Internal Automated Red-Teaming Model That Beat Human Red-Teamers 84% To 13% On Prompt Injection
AI 导读OpenAI 训练了内部攻击模型 GPT-Red，通过自我对弈强化学习对抗防御 LLM 群体。在复现的间接提示注入测试中，GPT-Red 以 84% 对 13% 击败人类红队成员，发现了一种新型“虚假思维链”攻击类别，并将 GPT-5.6 Sol 在 OpenAI 最难直接注入基准上的失败率降低 6 倍。OpenAI 承认该模型在多轮和基于图像的攻击上仍有困难。
另有 4 家信源报道
- OpenAI 发布内部红队模型 GPT-Red，用于自动化网络攻击模拟IT之家·人工智能 · 7 月 16 日
- OpenAI 用 AI 攻击自家 AI：GPT-Red 自动发现安全漏洞，成功率 84% 远超人类The Decoder：AI News · 7 月 16 日
- OpenAI 推出 GPT-Red 自动化红队测试Greg Brockman · 7 月 16 日
- OpenAI 推出内部自动化红队工具 GPT-RedOpenAI · 7 月 16 日
来源：MarkTechPost · marktechpost.com
事件后续1
查看事件全部- OpenAI 用 AI 攻击自家 AI：GPT-Red 自动发现安全漏洞，成功率 84% 远超人类The Decoder：AI News · 7 月 16 日