Anthropic 研究:用合成文档微调(SDF)修改 LLM 的信念
Modifying LLM Beliefs with Synthetic Document Finetuning
AI 导读Anthropic 团队提出合成文档微调(SDF)管线,用 LLM 生成引用目标命题的合成文档并对模型做 SFT,实验显示除最荒谬的错误事实外均可成功插入信念,覆盖 Haiku 3.5、Llama 3.3 70B Instruct、R1 Distill 70B 和 OpenAI GPT 系列。
来源:Anthropic:Alignment Science Blog · alignment.anthropic.com