Anthropic 提出抽象红队方法，在查询类别层面测试模型性格违规
Abstractive Red-Teaming of Language Model Character
AI 导读Anthropic Fellows Program 团队提出 abstractive red-teaming，通过搜索自然语言查询类别而非单个查询，找出让大模型违反性格规范的现实失败模式，并提出 CRL 和 QCI 两种搜索算法。
来源：Anthropic：Alignment Science Blog · alignment.anthropic.com