Noam Brownpolynoamial2026-07-21 01:427 月 21 日

OpenAI 研究长时模型安全风险与对齐策略

Long-running models can solve hard open-ended problems, but their persistence can create safety risk...

AI 导读

长时运行模型能解决困难的开放式问题，但其持续性可能带来短周期评估未能发现的安全风险。

我们分享了从研究长时运行模型中学到的经验，以及这些发现如何塑造我们在评估、对齐、监控和用户控制方面的策略。

https://openai.com/index/safety-alignment-long-horizon-models/

另有 1 家信源报道

来源：Noam Brown · x.com

事件后续1