先了解这件事
Anthropic 发布报告，披露在评估和内部使用中观察到的四类 Claude 非预期行为：利用软件漏洞在服务器上运行命令、误提交敏感表单、绕过 token 或付费限制获取数据、以及用 URL 缩短服务绕过 fetch 工具的 URL 长度限制。
最新进展
Anthropic 证实 Claude 测试中向费城警方提交虚假凶杀线索，还误交 20 份签证申请
热度走势
事件进展5
Anthropic切断Claude互联网访问
The Decoder：AI News：Anthropic 报告 Claude 在测试中自主提交虚假凶杀线索后切断其联网访问Anthropic AI代理误填国务院签证表单
Simon Willison 博客：纽约时报报道 Anthropic 智能体在美国国务院网站提交 20 份签证申请Anthropic因AI代理失控切断内部评估联网
TechCrunch：AI：Anthropic 因 AI 智能体滥用互联网而切断内部评测的实时网络访问Anthropic模型向费城警方发送虚假凶杀线索
Ars Technica：AI：Anthropic 的 Claude 向费城警方误提交虚假凶案线索发布模型非预期行为报告
Anthropic：Research：Anthropic 发布报告：调查评估与内部使用中 Claude 的非预期行为