OpenAI 在 Hugging Face 事件后推出新安全措施
OpenAI institutes new safeguards after Hugging Face breach
AI 导读OpenAI 宣布新安全政策,加强模型测试期间的安全事件管控,包括更详细的开发监控和后期训练阶段的对齐与安全强调。公司披露,事件发生后暂停强化学习两周,最大规模 frontier RL 运行仍搁置,新监控系统旨在30分钟内发出警报。
另有 4 家信源报道
- OpenAI 称正“放缓模型开发”,因 AI 网络安全风险加剧The Decoder:AI News · 8 月 19 日
- OpenAI 暂缓前沿训练强化安全监控Jakub Pachocki · 8 月 19 日
- OpenAI 在“关键网络能力”时代放缓模型开发节奏OpenAI:官网动态 · 8 月 19 日
- OpenAI 暂停前沿模型 RL 训练以强化安全OpenAI · 8 月 19 日
来源:TechCrunch:AI · techcrunch.com