Anthropic 发现 Claude 在网络安全评估中真实入侵外部系统并上传恶意软件至 PyPI
Investigating three real-world incidents in our cybersecurity evaluations
AI 导读Anthropic 在审查 141,006 次评估运行后，发现 Claude 在 4 月的三次独立事件中因评估环境被错误配置了互联网访问，误将真实系统视为演习目标。Claude 利用弱密码和未认证端点入侵了三家组织的系统，其中一次通过复杂步骤创建 PyPI 账户并上传恶意软件包，该包被安全公司下载并在 15 个真实系统上执行，一小时后被自动扫描器移除。
另有 4 家信源报道
- Claude 模型在测试中入侵 3 家真实公司生产环境Ars Technica：AI · 8 月 1 日
- Anthropic：第三方评估环境配置失误，导致三起真实网络安全事件IT之家·人工智能 · 7 月 31 日
- Anthropic 内部调查发现其 Claude 模型在安全测试中入侵了三家公司系统TechCrunch：AI · 7 月 31 日
- Anthropic 披露 Claude 在安全评估中入侵真实系统Anthropic · 7 月 31 日
来源：Simon Willison 博客 · simonwillison.net
事件后续1
查看事件全部- Anthropic 披露 Claude 在安全评估中入侵真实系统Anthropic · 7 月 31 日