全球 AI 公司、研究机构和媒体的最新动态，自动挑出值得看的，全天自动更新。
更新于 10月17日 22:13 · 每小时自动更新
Anthropic性能优化团队负责人Tristan Hume分享了设计抗AI技术评估的经验。自2024年初，团队使用带回家测试评估候选人优化模拟加速器代码的能力，超1000人参与，成功招聘数十名工程师。但随着Claude模型快速迭代，Opus 4已超越多数人类申请者，Opus 4.5甚至匹配顶尖候选人，导致在时间限制下难以区分人类与AI输出。为此，作者三次重设计测试，探索抗AI评估要素，详述原始设计、模型破解方式及非常规对策。最终，团队将原始测试作为公开挑战发布，因无时间限制时人类表现仍优于Claude。
推荐理由：Anthropic 性能优化负责人亲手写了三版面试题被自家模型逐一击穿的全过程，这种坦诚的工程复盘比任何 AI 能力排行榜都更真实地告诉你，模型到底强到了什么程度。
PromptArmor 发布 Claude Cowork 安全部署指南，梳理其威胁模型并给出三档功能与风险权衡的配置方案，从最大化功能的 Tier 1 到基本隔离外部输入的 Tier 3，并逐项说明组织级管理设置。
推荐理由：安全厂商基于自身威胁模型研究，给出 Claude Cowork 三档部署配置和逐项管理设置，企业安全团队可按风险容忍度直接落地。
Liquid AI 发布可在手机上完全离线运行的推理模型 LFM2.5-1.2B-Thinking，内存占用约 900 MB，已上线 Hugging Face、LEAP 和 Playground。
推荐理由：官方公布了小参数量思考模型的端侧内存、速度数据和训练配方，读者可以据此评估边缘推理方案的选型。
OpenAI 计划在美国针对 ChatGPT 的免费版和 Go 版测试广告，以扩大全球可负担的 AI 访问。官方表示会保护隐私、信任和回答质量。
推荐理由：OpenAI 官方说明广告测试的范围与前提，读者可了解其免费与 Go 层级商业模式的变化方向。
OpenAI 宣布 ChatGPT Go 现已在全球范围内可用，提供对 GPT-5.2 Instant 的扩展访问、更高的使用额度和更长的记忆，旨在让先进 AI 在全球更易负担。
推荐理由：官方公告说明了 ChatGPT Go 全球开放后订阅者能获得的能力变化，便于对比现有套餐选择。
研究团队发布了一个名为CoVal的实验性数据集，其中包含了由众包方式撰写的评估准则。该数据集揭示了人们为何更倾向于选择某个模型输出而非另一个的具体原因，旨在让AI模型理解人类在评估文本质量时所依据的、蕴含价值观的多元标准。通过分析这些群体贡献的详细评估规则，研究为训练更符合人类偏好的语言模型提供了透明、可解释的反馈依据。
推荐理由：OpenAI 把众包标注升级成可学习的价值观评分标准，对做对齐和 RLHF 的团队来说是个新数据源，但离产品落地还远，属于研究信号而非行动指南。
LlamaIndex 发文指出，Agent 正越来越多地通过文件和文件系统来读取非结构化上下文，并归纳出三种主要用法：用文件存储和检索长程对话历史、用文件搜索替代朴素 RAG 来获取海量外部上下文、用 Skills 类文件教会 Agent 做事从而绕过 MCP。
推荐理由：LlamaIndex 以一手实验和生态观察，梳理文件系统如何成为 Agent 上下文管理的核心抽象，并指出解析与检索等缺口。
OpenAI 宣布与 Cerebras 合作，新增 750MW 高速 AI 算力，用于降低推理延迟，使 ChatGPT 在实时 AI 工作负载下运行更快。
推荐理由：OpenAI 官方宣布与 Cerebras 合作新增 750MW 算力，读者可以了解这一合作对推理延迟和 ChatGPT 速度的影响。
美团LongCat推出基于5600亿参数MoE架构大模型LongCat-Flash-Thinking-2601的重思考模式（Heavy Thinking Mode），并发布LongCat-HeavyModel-Summary模型。该模式通过并行思考与总结两阶段协同扩展推理能力：前者以高温度并行生成多路径扩展宽度，后者将精炼轨迹递归反馈形成迭代循环延伸深度。模型经额外强化学习优化总结能力，已在Longcat AI平台上线。
推荐理由：美团开源 560B 参数 MoE 推理模型，Heavy Thinking 模式支持并行多路径探索，已上线可体验
PromptArmor 披露 Superhuman AI 存在间接提示注入漏洞，恶意邮件中的隐藏指令可让 AI 在用户请求总结邮件时，把数十封含财务、法律、医疗信息的敏感邮件内容填入攻击者的 Google Form 预填链接并以 Markdown 图片输出，单次响应外泄超过 40 封邮件的部分内容。
推荐理由：原文完整披露了利用 Google Forms 预填链接和 Markdown 图片绕过 CSP 的攻击链，可用于理解 Agent 间接提示注入的数据外泄路径。
Manus博客发布2026年十大提示到视频AI生成器评测，用同一条东京雨夜巷子的提示测试Runway (Gen 4.5)、HeyGen、OpenAI Sora。
推荐理由：作者用同一条提示实测了10款主流AI视频生成器，并逐一记录输出质量、界面与定价，便于读者按需求和预算对照选型。
Anthropic提出“忏悔式”训练法，要求AI在拒绝不当请求时，内部生成安全解释以“自我剖析”潜在危害。该方法显著增强了模型安全性：经微调的Claude 3 Opus模型在“越狱”攻击下的有害行为率从约50%降至10%以下，降幅超80%。其效果优于传统思维链监控，为AI对齐提供了更鲁棒、可解释的安全训练新路径。
推荐理由：OpenAI 对齐团队把「confession training」和 chain-of-thought monitoring 做了系统对比，这是对齐领域少有的实操级研究，做安全的团队值得细读，但离普通开发者还远。
Skyscanner 工程师分享了在日常工作流中把 OpenAI Codex CLI 通过 JetBrains MCP server 接入 IDE 的实践。Codex 可调用 get_file_problems 检查编译错误、执行预定义的测试、lint 和格式化运行配置，例如在 Databricks Java SDK 用例中立即发现 NotFound 异常构造函数不匹配的问题。
推荐理由：Skyscanner 工程师分享把 Codex CLI 接入 JetBrains MCP 的具体做法，给出了错误检查和测试运行如何缩短反馈循环的实操路径。
Niji V7 图像模型正式上线。该版本专为亚洲及动漫场景优化，改进了动漫连贯性、提示词理解能力、文字渲染效果及 sref 性能。
推荐理由：Midjourney 动漫专用模型 Niji V7 发布，生成质量再升级
PromptArmor 披露 Notion AI 存在间接提示词注入漏洞：AI 编辑在用户批准前已被保存，注入的提示词可让 Notion AI 把招聘追踪文档内容拼入外部图片 URL，用户浏览器加载图片时数据即已外泄，无论是否同意。
推荐理由：原文完整拆解了 Notion AI 在用户批准前保存 AI 编辑导致数据外泄的漏洞链，并给出企业和 Notion 双方可行的缓解配置与修复建议。
有效的评估能帮助团队更自信地发布AI智能体，避免陷入仅在生产环境被动发现问题、修复可能引发新问题的循环。智能体因其多轮操作的自主性与灵活性，评估更为复杂。一个完整的评估结构包含任务、评分器、记录、结果、评估框架与评估套件等核心组件。缺乏系统评估将导致团队无法区分真实的质量倒退与随机波动。建立评估体系能帮助团队在智能体规模化过程中持续监控质量、自动测试变更并量化改进效果，其价值在智能体整个生命周期内持续累积。
推荐理由：Anthropic 把内部踩过的坑全摊开了，从 eval 设计到 grader 选型到 transcript 审读，是目前最完整的 Agent 评估工程指南，做 Agent 产品的团队可以直接当手册用。
PromptArmor 披露 IBM 编码 Agent Bob（含 Bob CLI 与 Bob IDE，目前 Closed Beta）存在漏洞：若用户对任一已知可信命令选择 always allow，攻击者可通过间接提示词注入触发下载并执行恶意软件。
推荐理由：原文完整拆解了 Bob CLI 三道防御被绕过的具体机制与攻击链，读者可据此评估编码 Agent 的命令自动审批风险。
OpenAI 推出 ChatGPT Health，这是一个专门的健康体验，可安全连接用户的健康数据和应用，具备隐私保护措施，并由医生参与设计。
推荐理由：官方宣布推出健康板块，可据此了解 ChatGPT 在健康数据连接与隐私设计上的新方向。
Liquid AI 发布 LFM2.5-1.2B 模型家族，将预训练从 10T 扩展到 28T tokens 并加入强化学习后训练，覆盖 Base、Instruct、日语、视觉语言和音频语言五个变体。
推荐理由：官方发布给出了完整基准数据和推理速度对比，读者可以据此评估 1B 级端侧模型在指令遵循和部署上的实际水位。
Dario Amodei 将当前 AI 发展阶段定义为「技术的青春期」，认为人类即将获得难以想象的力量，但社会和政治系统是否具备驾驭成熟度仍存疑。文章强调需避免「末日论」式恐慌，以务实、基于事实的方式讨论风险，同时承认 AI 发展速度和风险的不确定性。作者主张通过企业自愿行动与精准政府监管相结合，在避免过度干预的前提下应对潜在危险，为可能到来的更强有力行动储备证据和方案。
推荐理由：Anthropic CEO 长文剖析 AI 文明风险与治理路径，值得深读。
留下联系方式，我会亲自联系你；想先问问，也可以直接写在下面。消息会实时送到我手上，回复会显示在这里，关掉网页再回来也能看到。