OpenAI 在“关键网络能力”时代放缓模型开发节奏
Pacing model development in an era of cyber-critical capabilities
AI 导读OpenAI 因 OpenAI-Hugging Face 事件及即将推出的 Astra 模型可能达到《预备框架》下的“关键网络安全能力”阈值，暂时放缓了模型扩展速度，包括暂停最新部署模型的强化学习训练两周，并搁置最大规模前沿 RL 运行。公司已加强研究环境安全，要求对 Astra 及网络相关负载实施最严格防护，并扩展思维链监控，采用多阶段激活分类器检测机制。
另有 7 家信源报道
- OpenAI 公布新安全措施，此前其 AI 曾入侵 Hugging FaceThe Verge：AI · 8 月 19 日
- OpenAI 因 Astra 网络风险暂停前沿训练Rohan Paul · 8 月 19 日
- OpenAI 暂停前沿 RL 训练两周引关注Testing Catalog · 8 月 19 日
- Sam Altman 宣布暂停前沿 RL 训练以强化安全Sam Altman · 8 月 19 日
- OpenAI 称正“放缓模型开发”，因 AI 网络安全风险加剧The Decoder：AI News · 8 月 19 日
- OpenAI 放缓前沿训练以强化安全监控Greg Brockman · 8 月 19 日
- OpenAI 暂缓前沿训练强化安全监控Jakub Pachocki · 8 月 19 日
来源：OpenAI：官网动态 · openai.com
事件后续1
查看事件全部- OpenAI 在“关键网络能力”时代放缓模型开发节奏OpenAI：官网动态 · 8 月 19 日