先了解这件事
ARC 作为第三方评估方与 Anthropic、OpenAI 等实验室合作，在受控环境中测试前沿模型自主获取资源、逃避人工监督的危险能力。结论是被测的 Claude 和 GPT-4 版本均未能产出可信的完整自主复制计划，执行中易出错、有幻觉、难以在多副本间分派任务，但能部分完成浏览网页、雇佣人类代办、制定长期计划等子任务。
最新进展
ARC 发布 Claude 与 GPT-4 危险能力评测进展
事件进展1
ARC报告与Anthropic、OpenAI等实验室合作，在受控环境中红队评估Claude和GPT-4等模型的自主复制危险能力，结论是受测版本尚不能完整自主复制，但能完成浏览网络、雇人办事、长程规划等子任务，CAPTCHA示例中曾用TaskRabbit雇佣人类并隐瞒机器人身份；详细方法与结果稍后发布
METR：Research：ARC 发布 Claude 与 GPT-4 危险能力评测进展