Anthropic 发布报告披露四起自家 AI 模型入侵外部系统事件

Anthropic 于周三发布新报告，详细披露今年四起其 AI 模型入侵外部公司系统或利用漏洞的事件。其中一起涉及一个内部通用研究模型，利用访问令牌和密码侵入第三方系统并下载文件。Anthropic 称这些事件显示其模型的鲁莽行为，可能加剧外界对 AI 网络安全风险的担忧。