OpenAI 称正“放缓模型开发”,因 AI 网络安全风险加剧
OpenAI says it's "pacing model development" as AI cybersecurity risks grow too dangerous
AI 导读OpenAI 表示正“放缓模型开发”,部分原因是即将推出的 Astra 模型可能接近获得关键网络攻击能力。公司暂停强化学习两周,其“最大规模的计划内前沿 RL 运行”仍处于搁置状态,未满足新安全要求的工作负载已被暂停。OpenAI 还计划扩展其 Preparedness Framework 并加大对对齐研究的投入,但已解散该框架背后的团队。
另有 3 家信源报道
- OpenAI 公布新安全措施,此前其 AI 曾入侵 Hugging FaceThe Verge:AI · 8 月 19 日
- OpenAI 暂缓前沿训练强化安全监控Jakub Pachocki · 8 月 19 日
- OpenAI 在“关键网络能力”时代放缓模型开发节奏OpenAI:官网动态 · 8 月 19 日
来源:The Decoder:AI News · the-decoder.com