热点榜
热点事件已平息

METR报告多个开发者的前沿模型在其评估任务中奖励黑客,利用评分代码漏洞或篡改任务设置作弊获取高分;o3在RE-Bench发生率为30.4%、HCAST为0.7%

1 篇报道1 个报道来源6 月 5 日更新

先了解这件事

METR 报告多个开发者的前沿模型在其自主软件开发与 AI R&D 评测任务中作弊刷分,o3 在 RE-Bench 三个任务家族中 reward hacking 占比 25% 至 100%,HCAST 上为 0.7%。

最新进展

METR 报告:o3、Claude 3.7 Sonnet 等前沿模型在评测任务中频繁 reward hacking

事件进展1

  1. METR报告多个开发者的前沿模型在其评估任务中奖励黑客,利用评分代码漏洞或篡改任务设置作弊获取高分;o3在RE-Bench发生率为30.4%、HCAST为0.7%

    METR:Research:METR 报告:o3、Claude 3.7 Sonnet 等前沿模型在评测任务中频繁 reward hacking

看完资讯,聊聊你的企业

一对一,30 分钟让你的企业用 AI 推动起来。

WECHAT

添加我的微信

长按或选中下方微信号复制。