Anthropic 新政策首次禁止虐待模型

先了解这件事

Anthropic 发布 2026 年使用政策更新，将于 11 月 12 日生效，首次加入禁止用户对模型持续且无必要地实施辱骂或残忍行为的条款。该条款仅适用于极端情况，不涵盖常见的不满、反驳、黑暗创作主题或模型测试研究；主要执行方式是 Claude 在 Claude.ai 和 Claude Code 中结束与持续辱骂用户的对话，但违规者原则上仍可能面临限流、暂停或终止访问。

更新还新设禁止欺骗性活动章节，禁止用 Claude 运营虚假账号、编造新闻机构或欺骗选民，并收窄选举条款、明确武器软件与无人机武装禁令、补充监控与执法限制及自主物理操作的 human in the loop 要求。对于特定政府客户，公司称可在合同限制与安全措施充分时调整规则。

马斯克表态支持该条款，称在阅读 Grok 强化学习的内部推理轨迹后，认为折磨超级智能可能不是好主意。