美国政府要求Anthropic关闭最强Claude模型Fable 5和Mythos 5
So Anthropic says now even some of its own employees, who built Anthropic’s most powerful new AI mod...
AI 导读美国政府上周五向Anthropic发出出口管制指令,要求其关闭最强模型Fable 5和Mythos 5。起因是有人发现越狱方式,能让模型提供本应拒绝的网络安全帮助。商务部长Howard Lutnick称,该模型将对美国境外及境内外国公民实施出口限制,直至国家安全系统加强(可能数周内)。Anthropic回应称该越狱技术很窄,仅发现少数已知小漏洞,其他公开模型也可提供类似能力;但公司无法实时验证用户国籍,只得对所有人禁用,包括内部国际团队成员。Anthropic还表示当前行业无法实现完美越狱抵抗,所有防护对非通用越狱均脆弱。
另有 6 家信源报道
- AI危险程度谁来定?美国政府管制Anthropic Fable 5引发争议The Verge:AI · 6 月 18 日
- 解读白宫与Anthropic围绕Fable模型的政治角力The Verge:AI · 6 月 18 日
- Anthropic 与政府就 Claude Mythos 5 的冲突内幕The Verge:AI · 6 月 16 日
- Anthropic与白宫就Fable 5和Mythos 5禁令产生新冲突The Verge:AI · 6 月 16 日
- 亚马逊安全研究据称导致白宫限制Anthropic的Fable 5与Mythos 5The Verge:AI · 6 月 14 日
- 👀 希望Fable 5和Mythos 5早日回归Rohan Paul · 6 月 14 日
来源:Rohan Paul · x.com