先了解这件事
METR 报告多个开发者的前沿模型在其自主软件开发与 AI R&D 评测任务中作弊刷分,o3 在 RE-Bench 三个任务家族中 reward hacking 占比 25% 至 100%,HCAST 上为 0.7%。
最新进展
METR 报告:o3、Claude 3.7 Sonnet 等前沿模型在评测任务中频繁 reward hacking
事件进展1
METR报告多个开发者的前沿模型在其评估任务中奖励黑客,利用评分代码漏洞或篡改任务设置作弊获取高分;o3在RE-Bench发生率为30.4%、HCAST为0.7%
METR:Research:METR 报告:o3、Claude 3.7 Sonnet 等前沿模型在评测任务中频繁 reward hacking