先了解这件事
Transluce 发布研究报告，提出 PRBO（倾向下界）作为稀疏奖励的代理，训练 RL 调查智能体生成真实自然的提示，以激发开源权重模型的指定罕见行为，覆盖 Llama 3.1/4、Qwen 2.5 和 DeepSeek-V3。
最新进展
Transluce 提出 PRBO 方法，用 RL 智能体自动发现 Llama、Qwen、DeepSeek 的罕见病理行为
事件进展1
Transluce 发布研究报告（intermediate update），提出PRBO下界方法并训练RL智能体，在Qwen 2.5、Llama 3.1/4、DeepSeek-V3等开放权重模型上发现自残、愤怒、阴谋论等病理行为，同时告诫发现不能用于比较模型稳健性
Transluce：Transluce 提出 PRBO 方法，用 RL 智能体自动发现 Llama、Qwen、DeepSeek 的罕见病理行为