Cognition 评测 OpenAI o1 系列在 Devin 编码智能体上的表现并公开评测方法
A review of OpenAI’s o1 and how we evaluate coding agents
AI 导读Cognition 公布在 Devin 中测试 o1-mini 和 o1-preview 数周的早期结果：在内部基准 cognition-golden 上，Devin-Base 从 GPT-4o 的 25.9% 提升到 o1-mini 的 34.6%、o1-preview 的 51.8%，生产版 Devin 达 74.2%。
来源：Cognition 模型 / Devin 博客 · cognition.com