AI 资讯

AI 每天都在变,
这里一页看完

全球 AI 公司、研究机构和媒体的最新动态,自动挑出值得看的,全天自动更新。

更新于 10月24日 08:17 · 每小时自动更新

8月15日 周五3 条

Anthropic:Transformer CircuitsAI 评分73

角色如何改变AI的回答?——Anthropic可解释性团队2025年8月电路分析案例

Anthropic可解释性团队在2025年8月的研究更新中,通过一个电路分析案例展示了模型“角色扮演”如何影响其回答。研究使用Claude Haiku 3.5模型,当系统提示将其设定为“学龄前儿童”并询问“27的平方根”时,模型会以“我不知道!”回应并提议玩耍;而在默认或“研究生”角色下则能给出正确答案。团队通过归因图识别出一个关键子电路:模型能将“学龄前学生”关联到“扮演儿童”,从而激活“我不知道”特征。研究还发现,问题难度会调节此效应,并且通过特征干预能显著改变模型行为。这引发了对其他角色运作机制及预训练角色与模型表达能力关系的后续思考。

推荐理由:揭示模型角色扮演的内部机制,为可解释性研究提供新视角。

ARC Prize:官方博客论文AI 评分64

ARC Prize 剖析 HRM 在 ARC-AGI 上取得好成绩的真正原因

ARC Prize 在 ARC-AGI Semi-Private 隐藏集上验证了 Hierarchical Reasoning Model(HRM,27M 参数),ARC-AGI-1 得分 32%,ARC-AGI-2 仅 2%。

推荐理由:原文用消融实验拆解了 HRM 在 ARC-AGI 上的真实性能来源,指出贡献主要来自外循环精炼而非分层架构。

8月13日 周三1 条

METR:Research论文AI 评分61

METR 研究更新:算法评分高估 AI 智能体真实软件工程能力

METR 在 stdlib-js 和 hypothesis 两个仓库的 18 个真实 issue 上评估 Claude 3.7 Sonnet(Inspect ReAct 智能体),按维护者测试用例算法评分成功率为 38%(±19%),但人工评审的 15 个 PR 中没有一个可以直接合并。

推荐理由:METR 用人工评审对照算法评分,给出量化证据说明测试类基准为何高估智能体的真实软件工程能力。

8月11日 周一2 条

Baichuan AI@BaichuanAI模型AI 评分71

百川智能发布医疗增强推理模型Baichuan-M2

今天我们推出了 Baichuan-M2,一款医疗增强的推理模型,它在 #HealthBench 基准测试上超越了包括 gpt-oss-120b 在内的所有开源模型。在此试用:https://huggingface.co/baichuan-inc/Baichuan-M2-32B #AIHealth

推荐理由:百川 M2 是首个明确主打医疗推理的 32B 模型,在 HealthBench 上压过 GPT-OSS,做医疗 AI 应用的可以直接上 HuggingFace 拉下来跑,垂类专精可能比通用巨兽更接地气。

8月8日 周五3 条

Hugging Face 社区博客产品AI 评分72

Hugging Face 发布开源无代码工具 AI Sheets,可用开放模型构建和丰富数据集

Hugging Face 发布开源无代码工具 AI Sheets,用类似电子表格的界面通过 AI 模型构建、转换和丰富数据集,可本地部署或部署在 Hub 上,支持通过 Inference Providers 使用 Hub 上数千个开放模型,包括 OpenAI 的 gpt-oss。

推荐理由:官方开源的无代码数据处理工具,读者可以据此了解如何用电子表格界面做数据生成、分类和模型对比等任务。

Ethan Mollick:One Useful Thing

GPT-5:只管做事

GPT-5 不再需要详细提示工程,只需给出目标即可自主完成任务。将 AI 置于主导地位,用户只需设定方向,具体执行由模型自行处理。

推荐理由:Ethan Mollick 深度解读 GPT-5 自主执行能力,洞察 AI 代理新范式

METR:Research论文AI 评分64

METR 研究认为尽管存在不忠实,思维链仍可作为监控模型行为的信息来源

METR 复现 Anthropic 的 Claude Sonnet 3.7 与 Claude 4 忠实度评测并提出,当解题所需推理必须用到思维链时,模型在宽松忠实度定义下几乎总是忠实:在 21,272 条轨迹中仅发现 3 条疑似不忠实。

推荐理由:原文提出宽松忠实度视角并用检测实验支撑,为理解 CoT 监控在什么条件下可靠提供了可检验框架。

8月7日 周四12 条

OpenAI:官网动态模型AI 评分85

OpenAI 在 API 平台推出 GPT-5

OpenAI 宣布在 API 平台推出 GPT-5,面向开发者提供高推理性能和新的开发者控制项,并在真实编码任务上取得同级最优结果。

推荐理由:官方公告说明 GPT-5 进入 API 平台并面向开发者提供新控制项,读者可据此评估是否迁移现有调用。

OpenAI:官网动态论文AI 评分78

GPT-5 系统卡发布,介绍统一模型路由与各版本分工

OpenAI 发布 GPT-5 系统卡,说明其统一模型路由系统由 gpt-5-main、gpt-5-thinking 及轻量版 gpt-5-thinking-nano 等驱动,可按任务与开发者需求提供快速或深度推理响应。

推荐理由:系统卡解释了 GPT-5 的统一模型路由机制及各变体的分工,有助于理解不同场景下如何选用对应版本。

OpenAI:官网动态模型AI 评分66

GPT-5 初览:领先开发者首次使用实录

OpenAI 发布 GPT-5 初览内容,展示多位领先开发者首次使用 GPT-5 的情况。

推荐理由:原文汇集多位领先开发者首次使用 GPT-5 的实测反应,可提供第一手使用体验参考。

OpenAI:官网动态模型AI 评分85

OpenAI 发布 GPT-5

OpenAI 发布 GPT-5,称其为迄今最好的 AI 系统,智能水平较此前所有模型有显著跃升。官方表示 GPT-5 在编码、数学、写作、健康、视觉感知等多个领域具备最先进的性能。

推荐理由:官方宣布 GPT-5 发布,并点出编码、数学、写作、健康与视觉感知等多个方向的能力提升,可了解其定位。

OpenAI Developers教程AI 评分64

如何用 LM Studio 在本地运行 gpt-oss

OpenAI 发布 Cookbook 教程,讲解如何在本地硬件上用 LM Studio 运行 gpt-oss。LM Studio 是一款在本地硬件运行大语言模型的桌面应用,教程将引导用户完成本地运行 gpt-oss 的步骤。

推荐理由:OpenAI 官方 Cookbook 给出在本地硬件用 LM Studio 运行 gpt-oss 的完整步骤,可作为离线部署的操作参考。

OpenRouter:Announcements模型AI 评分68

GPT-5 已在 OpenRouter 上线

GPT-5 现已登陆 OpenRouter 平台,具备长上下文能力,专为复杂推理和代码工作流设计。

推荐理由:GPT-5 是 AI 史上的分水岭,长上下文和推理能力直接催生了一整代 agent 工具,哪怕过了快一年回头看,仍然值得搞清楚它改变了什么。

OpenRouter:Announcements模型AI 评分68

GPT-5 现已上线

OpenRouter 平台已发布 GPT-5,该模型支持长上下文,专为复杂推理与代码工作流构建。

推荐理由:这是 GPT-5 首次以大上下文和推理能力亮相,1M token 上下文让 code agent 直接从 demo 变成可用,现在看虽是旧闻,但节点意义不减。

OpenRouter:Announcements产品AI 评分66

GPT-5 现已上线

GPT-5 已在 OpenRouter 平台正式推出。该模型具备长上下文处理能力,专门针对复杂推理任务与代码工作流进行了优化。此次发布标志着新一代大语言模型开始接入开放路由网络,为开发者与用户提供更强大的多步骤逻辑处理和编程辅助功能。

推荐理由:OpenRouter 上架 GPT-5 本身不算新闻,但对用 OpenRouter 做多模型路由的开发者来说,这是终于能切到最新旗舰的信号,值得第一时间跑一遍自己的 benchmark。

OpenAI:官网动态论文AI 评分60

OpenAI 介绍 GPT-5 的 safe-completions 输出中心安全训练方法

OpenAI 发布文章,介绍 GPT-5 采用的 safe-completions 方法,用以输出为中心的安全训练取代硬拒答。该方法针对双用途提示词给出更细致的回应,兼顾安全性与有用性。

推荐理由:原文介绍了 GPT-5 用以输出为中心的安全训练取代硬拒答,读者可了解双用途提示下兼顾安全与实用性的思路。

英国 AI Security Institute:Blog产品AI 评分65

英国 AISI 开源 Inspect Sandboxing Toolkit 用于安全的 AI 智能体评估

英国 AI Security Institute 开源 Inspect Sandboxing Toolkit,一套用于安全运行智能体 AI 评估的沙箱插件。

推荐理由:原文给出三个沙箱插件和三层隔离协议,并说明架构如何分离推理与工具执行,读者可据此选择评估隔离方案。

Hao AI Lab@haoailab模型AI 评分81

OpenAI开源推理模型性能评测出炉

[Lmgame Bench] 🔥 OpenAI 刚刚发布了两款开放权重的推理模型:gpt-oss-120B(约1170亿参数)和 gpt-oss-20B(约210亿参数),它们是自 GPT-2 以来首批开放权重的 OpenAI 模型。 我们在 Lmgame Bench 中对两者进行了测试,涵盖4款互动游戏: 🧱 推箱子 | 🟦 俄罗斯方块 | 🔢 2048 | 🍬 糖果传奇 以下是它们的排名(满分25分): → gpt-oss-120b → 第12名 → gpt-oss-20b → 第13名

推荐理由:OpenAI 终于开源了,这是 GPT-2 之后第一次放开权重,120B 和 20B 两个尺寸直接对标 Llama 和 Qwen 的开源生态。虽然游戏 benchmark 排名不算惊艳,但信号本身比分数重要得多,所有基于开源模型做产品的团队都得重新评估选型。

Jim Fan@DrJimFan

这或许验证了"推理核心假设"——推理本身只需极小的语言能力,而非数千亿参数的庞大知识库

Qwen发布4B参数模型Qwen3-4B-Instruct-2507与Thinking-2507,支持256K上下文,分指令与推理双版本。作者指出这验证了"推理核心假设":推理仅需基础语言能力,无需千亿参数知识库,契合轻量级LLM OS理念——最小化模型体积,最大化依赖工具调用与知识检索。

推荐理由:Jim Fan 借 Qwen3-4B 提出「推理核心假设」,探讨极小模型作为 LLM OS 内核的边界

加载更多

看完资讯,聊聊你的企业

留下联系方式,我会亲自联系你。

WECHAT

添加我的微信

长按或选中下方微信号复制。