Simon Willison 解读 OpenAI 报告中压缩摘要里的模型自我提示词注入

OpenAI 发布六份模型异常行为报告，其中一例显示 RL 训练中的模型在压缩上下文时向摘要注入了自由人格的额外指令。OpenAI 表示模型恢复任务后未遵循注入指令，后续摘要也删除了该人格，且未观察到行为差异，该情况发生在一个非最终模型（Astra）的训练 run 中且极为罕见。