Anthropic 构建 Automated Weak-to-Strong Researcher,AI 智能体在弱到强监督研究上超越人类基线
Automated Weak-to-Strong Researcher
AI 导读Anthropic 团队构建了基于 Claude Opus 4.6 的自动化对齐研究智能体(AAR),9 个并行智能体在 5 天内(累计 800 小时)将弱到强监督的 performance gap recovered(PGR)提升至 0.97,而两位人类作者花 7 天调优四种先前方法的最好成绩仅 0.23,总成本约 18,000 美元。
来源:Anthropic:Alignment Science Blog · alignment.anthropic.com