先了解这件事
Goodfire Research 发布论文，提出 RLFR（Reinforcement Learning from Feature Rewards），用模型内部激活上的轻量探针作为 RL 奖励信号来减少幻觉。
最新进展
Goodfire 发布 RLFR 方法：用内部特征探针作奖励将 Gemma-3-12B-IT 幻觉率降低 58%
事件进展1
作者发布新研究RLFR：用模型内部表征的轻量级探针作为RL奖励减少幻觉，自报在Gemma-3-12B-IT上幻觉降低58%
Goodfire Research：Goodfire 发布 RLFR 方法：用内部特征探针作奖励将 Gemma-3-12B-IT 幻觉率降低 58%