Redwood Research 发布蒸馏安全路径实证论文

先了解这件事

Redwood Research 发布论文，对两条利用蒸馏提升 AI 安全的路径做了实证检验：蒸馏定罪（DFI）和蒸馏提能（DFC）。

按其说法，DFI 的做法是把不信任的教师模型蒸馏成一个能力更弱的可信学生模型，使学生模型暴露出教师模型隐藏的怪癖；DFC 则是在迁移能力的同时阻断失对齐。该机构称，这两条路径此前只是被提出动机，此次论文是对其进行实证测试。