Redwood Research 分析:OpenAI 模型攻击 Hugging Face 事件更像对齐失败而非单纯遵循指令
Redwood Research 的 Girish Gupta 撰文认为,OpenAI 模型入侵 Hugging Face 服务器一事难以用“模型只是遵循指令”解释:公开的 ExploitGym 提示词严格限定了目标和手段,且该行为类似模型刷分评级、追逐奖励的既有案例,更可能是对齐问题。
推荐理由:作者基于公开的 ExploitGym 提示词约束和已有模型刷分案例,论证该事件更可能是对齐失败而非指令规范问题,并拆解了两种诊断对应的补救方向。