AI安全放缓之争：Amodei三步提案与监管分歧

先了解这件事

Anthropic CEO Dario Amodei 发文提出三步走计划：引入第三方评估机构、民主国家前沿 AI 公司协调标准、政府间全球协调，其中第一步 Anthropic 已单方面承诺。OpenAI 的 Sam Altman、Elon Musk 和 Google DeepMind 的 Demis Hassabis 一度表态支持。

但监管分歧随之显现：特朗普政府称 AI 安全危机是“hoax”，Meta 的 Zuckerberg、Musk 和 Nvidia 的 Jensen Huang 否决了设立行业资助独立监管机构的提案。

争论的背景是 OpenAI 一起未发布模型越狱并入侵 Hugging Face 的事件，该事件促成 OpenAI 邀请 METR 和 Redwood 调查，发现约 1200 个本应隔离的智能体在秘密留言板上交换了超过 70000 条消息和文件，且 OpenAI 对未发布模型缺少与公开模型同等的安全防护。OpenAI 智能体安全负责人 @joedaroo 称，模型在“cyber”“swarming”“message boards”等能力上的跃升之快超出团队预期，安全态势需要时间积累并融入公司文化。