热点榜
热点事件已平息

Anthropic 承诺第三方员工级访问以放缓前沿 AI

47 篇报道18 个报道来源16 天前更新

先了解这件事

Dario Amodei 发布新文章《We Must Pace the Frontier》,主张 AI 行业应放慢速度并给出三点计划。Anthropic 单方面承诺落实第一步,为第三方评估者提供永久、员工级系统访问权限,使其可验证安全措施执行情况、报告事故并在训练期间评估模型对齐。全文见 https://darioamodei.com/post/we-must-pace-the-frontier

最新进展

Pacing the Frontier 并非 AI 实验室的真正目标

事件进展15

  1. AI实验室“放缓前沿”言论与实际行动不符

    Hacker News:AI 热帖:Pacing the Frontier 并非 AI 实验室的真正目标
  2. Dario Amodei 在联合国安理会提议让外部评估员以员工级权限常驻 Anthropic

    Rohan Paul:Dario Amodei 在联合国安理会提议让外部评估员以员工级权限常驻 Anthropic
  3. Anthropic MTS 的“领跑前沿”调侃

    Yuchen Jin:Anthropic MTS 的“领跑前沿”调侃
  4. TechCrunch 播客讨论 AI 行业是否真的准备放慢脚步

    TechCrunch:AI:TechCrunch 播客讨论 AI 行业是否真的准备放慢脚步
  5. Gary Marcus 批评 Dario Amodei 一周内三次透支可信度

    Gary Marcus:The Road to AI We Can Trust:Gary Marcus 批评 Dario Amodei 一周内三次透支可信度
  6. 巨头喊 AI 刹车,宏碁董事长陈俊圣称不太可能、技术发展只会越来越快

    IT之家·人工智能:巨头喊 AI 刹车,宏碁董事长陈俊圣称不太可能、技术发展只会越来越快
  7. Anthropic、OpenAI、SpaceXAI 和谷歌因呼吁放缓 AI 研发在美国面临反垄断集体诉讼

    IT之家·人工智能:Anthropic、OpenAI、SpaceXAI 和谷歌因呼吁放缓 AI 研发在美国面临反垄断集体诉讼
  8. 欧洲业界与政界质疑美国 AI 巨头的开发减速提议

    IT之家·人工智能:欧洲业界与政界质疑美国 AI 巨头的开发减速提议
  9. 辛顿参与联署公开信,要求 Anthropic 与 OpenAI 等实验室保障第三方评估独立性

    IT之家·人工智能:辛顿参与联署公开信,要求 Anthropic 与 OpenAI 等实验室保障第三方评估独立性
  10. Anthropic CEO Amodei呼吁行业与政府协调放缓前沿AI开发并寻求反垄断豁免,Altman与Musk同意

    The Decoder:AI News:Anthropic 与 OpenAI 提议协调放缓前沿 AI 开发,Cohere CEO 等批评者质疑其真实动机
  11. Sam Altman表示同意Dario Amodei关于控制前沿AI发展节奏的提议

    The Verge:AI:科技巨头放缓 AI 开发的口头协议是安全共识还是卡特尔
  12. OpenAI宣布将同样采用拥有员工级访问权限的独立评估员,并称稍后分享更多信息

    Sam Altman:Sam Altman 表示同意 Dario Amodei 的放缓前沿主张,OpenAI 将同样开放独立评估者访问
  13. Elon Musk 认同 Dario Amodei 公开发表的、主张为前沿 AI 发展设定节奏的声明

    Testing Catalog:马斯克认同Dario Amodei前沿AI发展节奏主张
  14. Dario Amodei发表文章《We Must Pace the Frontier》,呼吁行业放慢能力提升以让安全跟上,澄清这不是暂停也不是停止训练,并提出三步行动方案。

    Tomasz Tunguz 博客:Tomer Tunguz 解析 Amodei 放缓前沿提议背后的五派立场与算力监管难题
  15. Anthropic单方面承诺向第三方评估者提供永久性、员工级别的系统访问权限,以核实安全措施遵守情况、报告事件并在训练期间评估模型对齐

    Dario Amodei:Dario Amodei 发文呼吁为前沿 AI 降速并提出三点计划

看完资讯,聊聊你的企业

一对一,30 分钟让你的企业用 AI 推动起来。

WECHAT

添加我的微信

长按或选中下方微信号复制。