OpenAI 发布内部红队模型 GPT-Red，用于自动化网络攻击模拟
打造 AI 网安“红队”：OpenAI 介绍内部漏洞检测模型 GPT-Red
AI 导读OpenAI 介绍了其内部使用的网络安全“红队”模型 GPT-Red，可自动化模拟网络攻击以提升产品模型的鲁棒性。过去半年，GPT-5.3 后的每个生产模型均使用了该模型训练，伪造思维链型攻击成功率从 GPT-5.1 的 95% 降至最新模型的不足 10%，GPT-5.6 Sol 在直接提示符注入攻击中失败率仅 0.05%。GPT-Red 采用自博弈强化学习训练，与防御型 LLM 同步对抗进化。
另有 4 家信源报道
- OpenAI 公布 GPT-Red：内部自动化红队模型在提示注入测试中以 84% 对 13% 击败人类红队成员MarkTechPost · 7 月 17 日
- OpenAI 用 AI 攻击自家 AI：GPT-Red 自动发现安全漏洞，成功率 84% 远超人类The Decoder：AI News · 7 月 16 日
- OpenAI 推出 GPT-Red 自动化红队测试Greg Brockman · 7 月 16 日
- OpenAI 推出内部自动化红队工具 GPT-RedOpenAI · 7 月 16 日
来源：IT之家·人工智能 · ithome.com
事件后续1
查看事件全部- OpenAI 用 AI 攻击自家 AI：GPT-Red 自动发现安全漏洞，成功率 84% 远超人类The Decoder：AI News · 7 月 16 日