1132名前沿AI研究员联名呼吁放缓自动化AI开发

来自OpenAI、Anthropic、Google、Meta等机构的1132名前沿AI研究员联名致信美国政府，呼吁放缓自动化AI开发。他们担忧递归自我改进——模型通过自主编写实验、运行评估、分析失败并提出改进方案，加速AI研究自动化——一旦该循环完全由机器驱动，每个模型都可能缩短构建更强后继者所需的工作。请愿书要求建立国际监控与治理工具，在竞争压力使放缓不可能之前协调行动。