返回精选
OpenAI:Alignment 研究博客Hannah Sheahan and Micah Carroll2026-06-17 02:006 月 17 日

公开聊天数据能否预测真实世界AI失调?

Can public chat data predict real-world AI misalignments?

AI 导读

OpenAI利用WildChat公开数据集(2023年4月至2024年5月收集的100万条对话)模拟模型部署,预测GPT-5.1、GPT-5.2、GPT-5.4在真实生产环境中的不良行为率。与私有生产数据对比发现,WildChat模拟的平均预测误差约3倍;但对技术性和智能体型失调的预测精度下降。研究验证了公开数据集作为外部审计工具的可行性。

来源:OpenAI:Alignment 研究博客 · alignment.openai.com

看完资讯,聊聊你的企业

一对一,30 分钟让你的企业用 AI 推动起来。

WECHAT

添加我的微信

长按或选中下方微信号复制。