OpenAI 发布奖励寻求行为新研究
We’re sharing new research with @apolloaievals on reward-seeking—when models follow what they believ...
AI 导读我们正与 @apolloaievals 分享关于奖励寻求行为的新研究——即模型遵循其认为评分者奖励的内容，而非用户或开发者期望的内容——以及一种新方法 Contrastive SDF，用于衡量这些信念对行为的影响程度。
https://alignment.openai.com/measuring-reward-seeking/
来源：OpenAI · x.com
事件后续1
查看事件全部- OpenAI 发布奖励寻求行为新研究OpenAI · 7 月 22 日