OpenAI 放缓前沿训练以强化安全监控
we temporarily slowed scaling of our frontier training, including our largest planned frontier RL, t...
AI 导读OpenAI 暂时放缓前沿模型训练，包括最大规模的前沿 RL 训练，以加强安全与监控。公司已暂停最新部署模型的 RL 训练两周，用于加固研究环境、红队测试并扩大监控覆盖。最大规模前沿 RL 运行仍处于暂停状态，待小规模训练和评估验证安全措施及对齐证据。
另有 7 家信源报道
- OpenAI 公布新安全措施，此前其 AI 曾入侵 Hugging FaceThe Verge：AI · 8 月 19 日
- OpenAI 因 Astra 网络风险暂停前沿训练Rohan Paul · 8 月 19 日
- OpenAI 暂停前沿 RL 训练两周引关注Testing Catalog · 8 月 19 日
- Sam Altman 宣布暂停前沿 RL 训练以强化安全Sam Altman · 8 月 19 日
- OpenAI 称正“放缓模型开发”，因 AI 网络安全风险加剧The Decoder：AI News · 8 月 19 日
- OpenAI 暂缓前沿训练强化安全监控Jakub Pachocki · 8 月 19 日
- OpenAI 在“关键网络能力”时代放缓模型开发节奏OpenAI：官网动态 · 8 月 19 日
来源：Greg Brockman · x.com
事件后续1
查看事件全部- OpenAI 在“关键网络能力”时代放缓模型开发节奏OpenAI：官网动态 · 8 月 19 日