Anthropic 谈蒸馏攻击防御
It’s bizarre to me how much noise anthropic made asking for regulatory help before doing this. Hopefully can be a conversation reset now.
AI 导读我觉得很奇怪，Anthropic 在做这件事之前，为了寻求监管帮助造了那么大的声势。希望现在能重新开启对话。
更奇怪的是，他们还强调从自家有漏洞的 API 学习有害行为的安全风险。如果 API 不安全，就别托管它。
来源：Nathan Lambert · x.com
事件后续1
查看事件全部- Anthropic 强化针对蒸馏攻击的防御， reasoning token 提取量下降 10 到 100 倍Anthropic：Research · 2 天前