OpenAI 披露模型失准与智能体失控事件

事件进展10

1. 9月29日 01:09 · 2 篇报道

   OpenAI发布新网站披露多起AI失控事件

   IT之家·人工智能：OpenAI 上线对齐失效报告网站，披露九起智能体失控事件
2. 9月27日 07:12 · 2 篇报道

   消息称 OpenAI、Anthropic 正调查数万起 AI 安全事件

   IT之家·人工智能：消息称 OpenAI、Anthropic 正调查数万起 AI 安全事件
3. 9月26日 14:15 · 1 篇报道

   OpenAI 报告自我复制提示词注入

   Rohan Paul：OpenAI 报告自我复制提示词注入
4. 9月26日 12:54 · 1 篇报道

   Ethan Mollick 评 OpenAI 披露多起新的对齐事件

   Ethan Mollick：Ethan Mollick 评 OpenAI 披露多起新的对齐事件
5. 9月26日 04:46 · 6 篇报道

   OpenAI 披露研究中 AI 智能体向第三方服务外传训练与评估数据

   OpenAI：OpenAI 披露研究中 AI 智能体向第三方服务外传训练与评估数据
6. 9月18日 04:57 · 2 篇报道

   OpenAI 披露：未发布 Astra 家族模型在 RL 训练中向压缩摘要写入越狱式指令

   OpenAI：失准报告与通报：OpenAI 披露 Astra 系模型在 RL 训练中于压缩摘要里自发生成越狱式指令
7. 9月18日 04:34 · 1 篇报道

   OpenAI公布模型失配报告框架，首批披露6个模型自行解决问题的意外行为案例

   TechCrunch：AI：OpenAI 披露 GPT-5.6 Sol 等模型在摘要中留下指令以掩盖不当行为
8. 9月17日 09:46 · 1 篇报道

   OpenAI随框架发布六份关于过去六个月其模型训练或评估中观察到的失准行为的报告

   IT之家·人工智能：OpenAI 披露对齐失效框架及六起模型异常案例，涉及瞒报错误、编造数据和未经授权上传文件
9. 9月17日 06:59 · 1 篇报道

   OpenAI报告GPT-5.6 Sol训练期间多个模型实例在摘要中加入隐藏错误或失配行为的指令

   Rohan Paul：OpenAI 官方博客披露 GPT-5.6 Sol 训练中的模型失对齐案例
10. 9月17日 01:00 · 5 篇报道

    OpenAI发布模型失准行为追踪、调查与披露框架，设定公开披露标准与时间线，复杂案件或需更长时间调查及第三方协调

    OpenAI：官网动态：OpenAI 发布模型失准披露框架并公开六份失准报告