先了解这件事
Dario Amodei 发布新文章《We Must Pace the Frontier》,主张 AI 行业应放慢速度并给出三点计划。Anthropic 单方面承诺落实第一步,为第三方评估者提供永久、员工级系统访问权限,使其可验证安全措施执行情况、报告事故并在训练期间评估模型对齐。全文见 https://darioamodei.com/post/we-must-pace-the-frontier
最新进展
Pacing the Frontier 并非 AI 实验室的真正目标
事件进展15
AI实验室“放缓前沿”言论与实际行动不符
Hacker News:AI 热帖:Pacing the Frontier 并非 AI 实验室的真正目标Dario Amodei 在联合国安理会提议让外部评估员以员工级权限常驻 Anthropic
Rohan Paul:Dario Amodei 在联合国安理会提议让外部评估员以员工级权限常驻 AnthropicAnthropic MTS 的“领跑前沿”调侃
Yuchen Jin:Anthropic MTS 的“领跑前沿”调侃TechCrunch 播客讨论 AI 行业是否真的准备放慢脚步
TechCrunch:AI:TechCrunch 播客讨论 AI 行业是否真的准备放慢脚步Gary Marcus 批评 Dario Amodei 一周内三次透支可信度
Gary Marcus:The Road to AI We Can Trust:Gary Marcus 批评 Dario Amodei 一周内三次透支可信度巨头喊 AI 刹车,宏碁董事长陈俊圣称不太可能、技术发展只会越来越快
IT之家·人工智能:巨头喊 AI 刹车,宏碁董事长陈俊圣称不太可能、技术发展只会越来越快Anthropic、OpenAI、SpaceXAI 和谷歌因呼吁放缓 AI 研发在美国面临反垄断集体诉讼
IT之家·人工智能:Anthropic、OpenAI、SpaceXAI 和谷歌因呼吁放缓 AI 研发在美国面临反垄断集体诉讼欧洲业界与政界质疑美国 AI 巨头的开发减速提议
IT之家·人工智能:欧洲业界与政界质疑美国 AI 巨头的开发减速提议辛顿参与联署公开信,要求 Anthropic 与 OpenAI 等实验室保障第三方评估独立性
IT之家·人工智能:辛顿参与联署公开信,要求 Anthropic 与 OpenAI 等实验室保障第三方评估独立性Anthropic CEO Amodei呼吁行业与政府协调放缓前沿AI开发并寻求反垄断豁免,Altman与Musk同意
The Decoder:AI News:Anthropic 与 OpenAI 提议协调放缓前沿 AI 开发,Cohere CEO 等批评者质疑其真实动机Sam Altman表示同意Dario Amodei关于控制前沿AI发展节奏的提议
The Verge:AI:科技巨头放缓 AI 开发的口头协议是安全共识还是卡特尔OpenAI宣布将同样采用拥有员工级访问权限的独立评估员,并称稍后分享更多信息
Sam Altman:Sam Altman 表示同意 Dario Amodei 的放缓前沿主张,OpenAI 将同样开放独立评估者访问Elon Musk 认同 Dario Amodei 公开发表的、主张为前沿 AI 发展设定节奏的声明
Testing Catalog:马斯克认同Dario Amodei前沿AI发展节奏主张Dario Amodei发表文章《We Must Pace the Frontier》,呼吁行业放慢能力提升以让安全跟上,澄清这不是暂停也不是停止训练,并提出三步行动方案。
Tomasz Tunguz 博客:Tomer Tunguz 解析 Amodei 放缓前沿提议背后的五派立场与算力监管难题Anthropic单方面承诺向第三方评估者提供永久性、员工级别的系统访问权限,以核实安全措施遵守情况、报告事件并在训练期间评估模型对齐
Dario Amodei:Dario Amodei 发文呼吁为前沿 AI 降速并提出三点计划