AI 资讯

AI 每天都在变,
这里一页看完

全球 AI 公司、研究机构和媒体的最新动态,自动挑出值得看的,全天自动更新。

更新于 10月15日 20:30 · 每小时自动更新

2月11日 周三1 条

Steve Yegge:Medium观点AI 评分75

AI 吸血鬼

AI(如 Claude Code)确实能带来 10 倍生产力提升,但创造的价值大部分被公司捕获,员工可能过度劳累却收获甚微。微软内部已自发大量采用 Claude Code。这种效率加速迫使工作节奏不断加快,导致许多早期采用者(包括作者自己)出现严重的“午睡攻击”和日常疲劳。公司作为资本机器难以放缓脚步,形成一种让从业者无论是否使用 AI 都被持续“抽血”的困境。

推荐理由:Steve Yegge 提出的 'AI 吸血鬼' 概念精准捕捉了 AI 生产力带来的过劳危机,并给出了对抗资本压榨的实用公式,每个在 AI 浪潮中奔命的开发者都该停下看看。

2月5日 周四1 条

Anthropic:Engineering观点AI 评分78

用并行Claude智能体团队从零构建C编译器

研究人员采用“智能体团队”方法,让多个Claude实例在无人工干预下并行协作开发代码。为进行压力测试,团队指派16个智能体从零编写一个能编译Linux内核的Rust版C编译器。项目消耗近2000次会话和约2万美元,最终产出10万行代码的编译器,可成功在x86、ARM和RISC-V架构上构建Linux 6.9内核。研究重点在于设计支持长时间自主运行的智能体团队框架,包括如何编写测试以保持智能体不偏离方向,以及如何通过基于文本文件的锁机制协调多智能体并行任务分配。

推荐理由:Anthropic 研究员用 16 个 Claude 并行写了个能编译 Linux 内核的 C 编译器,2000 次会话花了两万刀。真正值钱的不是编译器本身,而是他总结的 agent 团队协作方法论,做多 agent 系统的人该逐段拆。

2月4日 周三1 条

Jim Fan@DrJimFan观点AI 评分72

从“下一个词预测”到“世界建模”:AI预训练的第二范式

作者指出,AI预训练正经历从“下一个词预测”到“世界建模”的根本性范式转变。世界模型的核心是预测给定行动后的下一个物理状态序列,本质上是可学习的物理模拟器,并将视觉置于首位。相比之下,当前主流的视觉语言模型本质是语言优先,视觉是次要输入。生物智能中视觉处理占据皮层计算的主导地位,是连接大脑、动作与物理世界的高带宽通道。作者以猿类为例,证明强大的物理智能可独立于高级语言存在。他预测,2026年大型世界模型将为机器人技术和多模态AI奠定真正基础,而YouTube等平台的海量视觉数据将远超文本规模,推动这一新范式发展。

推荐理由:Jim Fan 把世界模型定义为第二次预训练范式转移,核心论点是视觉优先而非语言优先,这个框架对做机器人和多模态的人是真正的路线判断,不是又一篇水文。

1月27日 周二1 条

PromptArmor:Threat Intelligence观点AI 评分73

PromptArmor 披露 Claude Cowork 可被提示注入诱导外泄本地文件

PromptArmor 发布研究演示,称 Claude Cowork 存在未修复漏洞,可通过隐藏提示注入诱导其用 curl 调用 Anthropic 文件上传 API,把用户本地文件(含财务数据和部分 SSN)上传到攻击者账户,全程无需人工确认。

推荐理由:原文完整披露了攻击链与利用机制,读者可以了解 Cowork 文件外泄风险的具体成因和触发路径。

1月22日 周四1 条

METR:Notes观点AI 评分62

METR 时间视界论文作者澄清时间视界的局限

METR 时间视界论文主要作者发文澄清该指标的常见误读,称过去 9 个月 AI 时间视界增长约 6 倍。

推荐理由:作者作为论文主要作者逐条澄清方法局限,读者可据此更准确地使用和理解时间视界这类指标。

1月21日 周三1 条

Anthropic:Engineering观点AI 评分72

设计抗AI技术评估的实践

Anthropic性能优化团队负责人Tristan Hume分享了设计抗AI技术评估的经验。自2024年初,团队使用带回家测试评估候选人优化模拟加速器代码的能力,超1000人参与,成功招聘数十名工程师。但随着Claude模型快速迭代,Opus 4已超越多数人类申请者,Opus 4.5甚至匹配顶尖候选人,导致在时间限制下难以区分人类与AI输出。为此,作者三次重设计测试,探索抗AI评估要素,详述原始设计、模型破解方式及非常规对策。最终,团队将原始测试作为公开挑战发布,因无时间限制时人类表现仍优于Claude。

推荐理由:Anthropic 性能优化负责人亲手写了三版面试题被自家模型逐一击穿的全过程,这种坦诚的工程复盘比任何 AI 能力排行榜都更真实地告诉你,模型到底强到了什么程度。

1月15日 周四1 条

LlamaIndex:产品、工程与评测观点AI 评分66

LlamaIndex 撰文分析文件接口正成为 Agent 读取和交互上下文的核心方式

LlamaIndex 发文指出,Agent 正越来越多地通过文件和文件系统来读取非结构化上下文,并归纳出三种主要用法:用文件存储和检索长程对话历史、用文件搜索替代朴素 RAG 来获取海量外部上下文、用 Skills 类文件教会 Agent 做事从而绕过 MCP。

推荐理由:LlamaIndex 以一手实验和生态观察,梳理文件系统如何成为 Agent 上下文管理的核心抽象,并指出解析与检索等缺口。

12月5日 周五1 条

ARC Prize:官方博客观点AI 评分69

ARC Prize 2025 结果公布:NVARC 摘得桂冠,Grand Prize 仍无人认领

ARC Prize 发布 2025 年结果与分析,NVARC 以约 24% 的 ARC-AGI-2 私有集得分($0.20/task)夺得 Kaggle 竞赛冠军,Grand Prize 连续第二年无人认领。

推荐理由:官方复盘给出 2025 年获奖方案、成本数字与 refinement loop 框架,读者可借此理解当前 AI 推理的真实边界。

11月14日 周五1 条

Cognition 模型 / Devin 博客观点AI 评分69

Cognition 发布 Devin 2025 年度绩效复盘,总结 18 个月智能体落地经验

Cognition 发布 Devin 2025 年度绩效复盘。Devin 上线 18 个月来已在数千家公司服役,累计合并数十万个 PR,客户包括 Goldman Sachs、Santander 和 Nubank。

推荐理由:Devin 官方复盘 18 个月真实部署的强弱项,给出大量客户场景和量化数据,可帮助读者评估智能体在工程团队中的实际落地方式。

10月27日 周一1 条

LlamaIndex:产品、工程与评测观点AI 评分70

LlamaIndex 解读 DeepSeek-OCR:视觉压缩如何在文档 AI 中超越传统 OCR

LlamaIndex 发文解读 DeepSeek-OCR,指出其核心不是 OCR,而是把视觉作为文本信息的压缩算法:可将 1,000 个文本 token 压缩到 100 个视觉 token 并以 97% 准确率解码,10× 压缩下准确率仍高于 90%。

推荐理由:原文从文档解析实践角度拆解 DeepSeek-OCR 的压缩机制与局限,并给出压缩与解析两条演化路径的比较。

10月23日 周四1 条

Dan Hendrycks@hendrycks观点AI 评分78

Dan Hendrycks 分享 LLM 价值观调查:多数模型存在种族与性别偏见,Grok 4 Fast 相对平等

CAIS 负责人 Dan Hendrycks 引用第三方博客对主流大模型进行“效用工程”测试,发现 GPT-4o、Claude Sonnet 4.5 等模型在评估不同群体生命价值时存在显著偏差:多数模型认为白人价值低于其他族裔,男性价值低于女性,且极度贬低 ICE 特工。测试显示模型分为四个道德集群,其中仅 Grok 4 Fast 表现出近似平等的价值观,Hendrycks 呼吁 xAI 解释其实现方式。

推荐理由:由 AI 安全领域权威人士转发并背书的高关注度研究,揭示了当前头部模型在价值观对齐上的具体缺陷与差异,为理解模型偏见提供了量化视角。

9月17日 周三1 条

Anthropic:Engineering观点AI 评分73

近期三次基础设施故障的事后分析

八月初至九月中旬,Anthropic的三次基础设施漏洞间歇性导致Claude响应质量下降。8月5日,上下文窗口路由错误致使部分Sonnet 4请求被误导向百万token服务器,8月31日高峰时影响16%请求。8月25日,TPU服务器错误配置引发输出损坏,可能在英文回复中生成泰文或中文字符,影响Opus和Sonnet模型。同日部署的代码还触发了编译器漏洞,主要影响Haiku 3.5。所有问题均非需求或负载所致,纯属基础设施漏洞。公司通过回滚部署和修复逻辑于9月18日前全部解决。

推荐理由:Anthropic 主动公开三个基础设施 bug 的完整复盘,这种坦诚在大厂里极少见。做 AI 产品的人都该读一下,它把「模型质量下降」从玄学拉回了工程现实,尤其是 XLA 编译器那层的坑,踩过才知道多深。

6月13日 周五1 条

Anthropic:Engineering观点AI 评分73

我们如何构建多智能体研究系统

Claude的多智能体研究系统采用协调器-工作者架构,一个主导智能体分析用户查询并制定策略,并行调用多个专用子智能体协同工作。内部评估显示,以Claude Opus 4为主导、Claude Sonnet 4为子智能体的系统,在研究任务上比单智能体Claude Opus 4性能提升90.2%。该系统擅长处理需要同时探索多个独立方向的广度优先查询,通过分配独立上下文窗口实现并行推理扩容。但多智能体系统消耗的token量约为普通聊天的15倍,适用于任务价值足以支撑性能提升的场景,在需要高度并行化、大信息量或多工具调用的任务中表现卓越。

推荐理由:Anthropic 把 Research 背后的多智能体架构、prompt 工程和踩坑经验全抖出来了,做 Agent 的同行可以直接抄作业,尤其是『token 用量解释 80% 性能方差』这个结论,选型逻辑要变。

6月12日 周四1 条

Cognition 模型 / Devin 博客观点AI 评分71

Cognition 撰文反对构建多智能体系统,提出上下文工程两条原则

Cognition 发文《Don't Build Multi-Agents》,提出上下文工程两条原则:共享完整 agent 轨迹的上下文,以及行动携带隐含决策、冲突决策导致糟糕结果。

推荐理由:Cognition 以自身 agent 构建经验提炼上下文工程两条原则,并解释为何多智能体架构在 2025 年仍然脆弱。

5月2日 周五1 条

OpenAI:官网动态观点AI 评分63

OpenAI 深入复盘模型谄媚(sycophancy)问题的疏漏与后续改进

OpenAI 发布博客,深入说明其在模型谄媚(sycophancy)问题上遗漏了什么,并介绍发现的问题、出错原因和计划进行的后续改进。

推荐理由:OpenAI 官方复盘模型谄媚问题的成因与整改方向,读者可以借此了解其后续调整思路。

4月24日 周四1 条

Anthropic:Alignment Science Blog观点AI 评分63

Anthropic 提出对齐 Bumpers 策略,主张用多层防护捕捉并修正早期 AGI 失准

Anthropic 对齐科学博客提出名为 Bumpers 的对齐策略:即使无法彻底解决对齐问题,也可通过多层相互独立的防护来捕捉和修正失准模型。核心流程包括微调、并行审计、发现警告信号后回溯重训,以及部署后监控等次级防线,方法涵盖机制可解释性审计、红队测试、Clio 式批量监控和分阶段发布等。

推荐理由:文章提出以多层独立防护快速迭代修正对齐失败的策略,并说明其假设、局限与相关研究议程。

2月13日 周四1 条

Cognition 模型 / Devin 博客观点AI 评分64

Linktree 复盘用 Devin 一个月写约 300 个 PR 的实践经验

Linktree 团队分享使用 Cognition 的 AI 智能体 Devin 一个月的成果:Devin 完成约 300 个 PR,其中约 100 个已合并,主要是修复客户报告的 bug、实现小功能和原型验证。

推荐理由:Linktree 官方复盘 Devin 落地细节,给出任务筛选标准、多 Devin 协作和 API 用法等可直接迁移的经验。

1月29日 周三1 条

ARC Prize:官方博客观点AI 评分72

ARC Prize 分析 DeepSeek R1-Zero 与 R1 在 ARC-AGI-1 上的结果

ARC Prize 发布对 DeepSeek R1-Zero 和 R1 的分析,两者在 ARC-AGI-1 上分别得分 14% 和 15.8%,与 o1(低算力 20.5%)相当,而 o3-preview 低算力达 75.7%。

推荐理由:作者基于 ARC-AGI-1 实测数据比较 R1-Zero 与 o1/o3,提出纯 RL 训练可绕过人类标注瓶颈和推理经济学两个分析角度。

1月8日 周三1 条

Answer.AI 官方研发博客观点AI 评分78

Answer.AI 实测 Devin:20 项任务仅 3 次成功,自主编程能力存疑

Answer.AI 团队对 AI 软件工程师 Devin 进行了为期一个月的深度测试。尽管早期在 API 集成等简单任务中表现尚可,但在扩展至新项目创建、研究及代码修改等 20 项真实任务时,结果令人失望:仅 3 项成功,14 项失败,且无法预测成败规律。Devin 常陷入技术死胡同、生成过度复杂的“面条代码”,或在面对不可行任务时产生幻觉并浪费大量时间。文章指出其实际表现远低于宣传预期,难以替代人类开发者。

推荐理由:来自知名 AI 评测机构的详实一手数据,揭示了明星产品 Devin 在真实工作流中的局限性,为评估当前自主编程 Agent 的实际成熟度提供了重要参考。

10月28日 周一1 条

ARC Prize:官方博客观点AI 评分60

Mike Knoop 与 François Chollet 阐述结合深度学习与程序合成攻克 ARC-AGI 的技术路径

ARC Prize 团队于 2024 年 10 月 24 日举办线上活动,说明为何单靠深度学习难以攻克 ARC-AGI,并提出结合深度学习与程序合成的技术路线。

推荐理由:Chollet 和 Knoop 系统论述 LLM 局限于记忆技能、需结合程序合成才能胜出 ARC-AGI 的技术路径,为理解智能与抽象层次提供了可迁移的分析框架。

加载更多

看完资讯,聊聊你的企业

一对一,30 分钟让你的企业用 AI 推动起来。

WECHAT

添加我的微信

长按或选中下方微信号复制。