OpenAI 用 AI 攻击自家 AI：GPT-Red 自动发现安全漏洞，成功率 84% 远超人类
OpenAI is now using AI to attack its own AI, and it's working better than humans ever did
AI 导读OpenAI 训练了内部 AI 模型 GPT-Red，通过自我对弈强化学习自动模拟提示词注入等攻击，在测试场景中成功率达 84%，而人类红队仅为 13%。GPT-Red 的发现直接用于训练，使 GPT-5.6 Sol 在直接提示词注入上的故障次数比四个月前的最佳模型减少六倍，且未影响通用性能。约 3.8% 的“更强”提示词注入仍能成功，GPT-Red 暂不对外开放。
另有 4 家信源报道
- OpenAI 公布 GPT-Red：内部自动化红队模型在提示注入测试中以 84% 对 13% 击败人类红队成员MarkTechPost · 7 月 17 日
- OpenAI 发布内部红队模型 GPT-Red，用于自动化网络攻击模拟IT之家·人工智能 · 7 月 16 日
- OpenAI 推出 GPT-Red 自动化红队测试Greg Brockman · 7 月 16 日
- OpenAI 推出内部自动化红队工具 GPT-RedOpenAI · 7 月 16 日
来源：The Decoder：AI News · the-decoder.com
事件后续1
查看事件全部- OpenAI 用 AI 攻击自家 AI：GPT-Red 自动发现安全漏洞，成功率 84% 远超人类The Decoder：AI News · 7 月 16 日