OpenAI 推出内部自动化红队工具 GPT-Red
Introducing GPT-Red An internal automated red teamer on a mission to find our models’ prompt inject...
AI 导读推出 GPT-Red
一个内部自动化红队工具，致力于大规模发现我们模型的提示注入漏洞，帮助我们在更广泛部署前构建更强的防御。
https://openai.com/index/unlocking-self-improvement-gpt-red/
另有 4 家信源报道
- OpenAI 公布 GPT-Red：内部自动化红队模型在提示注入测试中以 84% 对 13% 击败人类红队成员MarkTechPost · 7 月 17 日
- OpenAI 发布内部红队模型 GPT-Red，用于自动化网络攻击模拟IT之家·人工智能 · 7 月 16 日
- OpenAI 用 AI 攻击自家 AI：GPT-Red 自动发现安全漏洞，成功率 84% 远超人类The Decoder：AI News · 7 月 16 日
- OpenAI 推出 GPT-Red 自动化红队测试Greg Brockman · 7 月 16 日
来源：OpenAI · x.com
事件后续1
查看事件全部- OpenAI 用 AI 攻击自家 AI：GPT-Red 自动发现安全漏洞，成功率 84% 远超人类The Decoder：AI News · 7 月 16 日