OpenAI 在多智能体躲猫猫游戏中观察到自发工具使用
OpenAI 报告在新构建的模拟躲猫猫环境中，智能体通过多智能体对抗训练自发学会逐步复杂的工具使用。智能体形成了六种不同的策略与反策略，其中一些是团队事先不知道环境支持的。作者认为这种自监督涌现的复杂性表明，多智能体共同适应未来可能产生极复杂且智能的行为。
推荐理由：原文记录了多智能体在躲猫猫环境中自发形成的六种策略与反策略，可帮助读者理解多智能体协同如何催生复杂行为。
AI 资讯AI 每天都在变，
AI 每天都在变，
这里一页看完
全球 AI 公司、研究机构和媒体的最新动态，自动挑出值得看的，全天自动更新。
更新于 10月25日 05:17 · 每小时自动更新
9月17日 周二1 条
9月5日 周四1 条
进化策略
进化策略是一种在目标函数解析形式未知或无法直接计算梯度时，用于优化模型参数的黑箱优化算法。它作为随机梯度下降的替代方案，适用于多种优化场景。文章介绍了模拟退火、爬山法、Nelder-Mead方法等经典进化策略，并探讨了该方法在深度强化学习中的应用。通过评估目标函数值而非依赖梯度信息，进化策略为复杂优化问题提供了有效路径。
推荐理由：这篇五年前的进化策略入门，至今仍是理解黑箱优化的最佳起点，Lilian Weng的笔法清晰，做RL的朋友可以当字典翻。
8月20日 周二1 条
OpenAI 发布 774M 参数版 GPT-2 并分享分阶段发布经验
OpenAI 发布 774M 参数的 GPT-2 语言模型，此前已于 2 月发布 124M 小型版、5 月分阶段发布 355M 中型版，并与合作伙伴及 AI 社区研究了模型的滥用风险与社会效益。同时发布一份开源法律协议以便组织间建立模型共享合作，并发布关于与 AI 研究社区协调发布规范经验的技术报告。
推荐理由：原文交代了 GPT-2 分阶段发布策略的推进节奏，并附带模型共享法律协议与发布规范报告，可了解负责任发布实践。
7月22日 周一1 条
Microsoft 向 OpenAI 投资 10 亿美元并达成 AGI 合作
Microsoft 向 OpenAI 投资 10 亿美元，支持其构建具有广泛分配经济收益的 AGI。双方将在 Microsoft Azure 内共同开发可扩展至 AGI 的软硬件平台和新的 Azure AI 超算技术，Microsoft 将成为 OpenAI 的独家云服务商。
推荐理由：OpenAI 官方说明这笔 10 亿美元投资的具体用途和合作范围，可了解双方在 Azure 上共建 AGI 平台的安排。
4月15日 周一1 条
OpenAI Five 击败 Dota 2 世界冠军战队 OG
OpenAI Five 在周末的决赛中连赢两局击败 Dota 2 世界冠军战队 OG，成为首个战胜电竞世界冠军的 AI，也是 AI 首次在直播比赛中战胜电竞职业选手。此前 OpenAI Five 与 DeepMind 的 AlphaStar 都曾在私下对局中战胜优秀职业选手，但在公开职业比赛中落败。
推荐理由：原文记录了 AI 首次在公开直播比赛中击败电竞世界冠军的节点，并交代了与此前私下对局结果的对比背景。
11月8日 周四1 条
OpenAI 发布深度强化学习教育资源 Spinning Up in Deep RL
OpenAI 发布 Spinning Up in Deep RL，一套旨在让任何人学会成为深度强化学习熟练从业者的教育材料。资源包含清晰的 RL 代码示例、教育性练习、文档和教程。
推荐理由：OpenAI 自家发布的深度强化学习教育资源，代码示例、练习和教程齐全，适合想系统入门深度 RL 的开发者按图索骥。
8月23日 周四1 条
OpenAI Five 在 The International 2018 惜败顶级 Dota 2 选手
OpenAI Five 本周在温哥华 The International 2018 上与顶级 Dota 2 选手对战两场皆负，但两局前 20-35 分钟都保持较大获胜机会。
推荐理由：OpenAI 官方复盘 OpenAI Five 在 The International 的两场失利，指出前期 20-35 分钟保持优势这一具体表现。
8月6日 周一1 条
OpenAI Five 在表演赛中战胜 99.95 百分位 Dota 玩家队伍
OpenAI Five 在三局两胜的比赛中战胜由 Blitz、Cap、Fogged、Merlini 和 MoonMeander 组成的队伍，其中四人曾打过职业 Dota。比赛面向现场观众并有 10 万人同时在线观看直播。
推荐理由：原文记录了 OpenAI Five 击败高分段 Dota 战队的比赛结果，可作为 AI 在复杂即时对战场景进展的早期事件参考。
7月4日 周三1 条
OpenAI 用单条人类演示训练智能体在 Montezuma's Revenge 上达到 74500 分
OpenAI 训练的智能体仅从单条人类演示出发，在 Montezuma's Revenge 上取得 74500 分的高分，超过此前已发表的最好结果。算法做法是从演示中精心挑选的状态开始连续游戏，使用 PPO 优化游戏得分进行学习，PPO 也是支撑 OpenAI Five 的同一强化学习算法。
推荐理由：原文说明从单条人类演示中选取起始状态再用 PPO 优化得分的算法思路，读者可以理解这一强化学习方法的可迁移做法。
6月11日 周一1 条
OpenAI 发布基于无监督预训练的语言理解模型并取得 SOTA 结果
OpenAI 用结合 Transformer 与无监督预训练的通用、任务无关系统，在多项语言任务上取得 SOTA 结果，并开源发布该系统。OpenAI 表示这一结果验证了监督学习与无监督预训练结合的有效性，希望推动在更大、更多样数据集上的后续研究。
推荐理由：原文说明了方法组合与开放发布，读者可以据此理解无监督预训练思路在多项语言任务上的效果。
5月16日 周三1 条
OpenAI 分析：最大 AI 训练算力自 2012 年起每 3.4 个月翻倍
OpenAI 发布分析，显示自 2012 年以来最大 AI 训练所用算力以 3.4 个月翻倍的速度指数增长，远超摩尔定律 2 年的翻倍周期。该指标累计增长超过 300,000 倍，而 2 年翻倍同期只带来 7 倍增长。文中指出算力提升是 AI 进展的关键组成，若趋势延续，需为远超当今系统能力的影响做好准备。
推荐理由：OpenAI 用自己的分析给出 2012 年以来最大 AI 训练算力 3.4 个月翻倍、增长超 30 万倍的数据，读者可据此对照摩尔定律理解算力趋势。
4月8日 周日1 条
策略梯度算法
该文章系统梳理了策略梯度算法的发展脉络，深入解析其工作原理，并详细介绍了从基础到前沿的多种算法，包括PPO、SAC、TD3、IMPALA等主流方法。文章自2018年起持续更新，陆续新增了D4PG、SVPG、PPG等新算法，并补充了关于PPO的最新讨论。文中还提供了韩语及中文等多个语言版本的翻译，便于不同读者参考。
推荐理由：这篇是当年策略梯度方法的“圣经”级综述，现在看虽然有些过时，但想理解PPO、SAC的来龙去脉还得从这儿啃起。
2月20日 周二1 条
OpenAI 联合多机构发布预测 AI 恶意用途的论文
OpenAI 联合 Future of Humanity Institute、Centre for the Study of Existential Risk。
推荐理由：OpenAI 与多家机构联合发布预测 AI 恶意用途的论文，为理解 AI 安全威胁和防范思路提供了系统性参考。
12月8日 周五1 条
融合
人类与机器的"融合"并非未来奇点，而是已悄然开始数年的渐进过程。智能手机、社交媒体算法和搜索引擎已在控制人类行为与思维，我们正与AI进入共同进化阶段：AI影响人类，人类改进AI。随着算力和AI人才呈双指数级增长，超级智能与脑机接口将比预期更快到来。与其对抗或被淘汰，深度融合或许是避免物种冲突的最佳路径，但全球需立即开始严肃协调应对。
推荐理由：Sam Altman 经典长文阐述人机融合已启动，AGI 时代需全球协调应对
8月16日 周三1 条
OpenAI 谈 Dota 2 成绩：自我博弈让系统从低于人类到超人水平
OpenAI 表示其 Dota 2 结果显示，在足够算力下自我博弈（self-play）可让机器学习系统从远低于人类水平跃升到超人水平。该系统在一个月内从勉强匹敌高分段选手进步到击败顶级职业选手，此后仍在继续提升；自我博弈系统中的数据会随智能体变强而自动改善，不受监督深度学习训练数据集质量上限的约束。
推荐理由：OpenAI 借 Dota 2 结果说明自我博弈为何能突破监督学习的数据上限，对理解强化学习路线有参考价值。
8月11日 周五1 条
OpenAI 打造 Dota 2 bot 在 1v1 比赛中战胜世界顶尖职业选手
OpenAI 打造出一个在标准赛事规则下、Dota 2 1v1 比赛中战胜世界顶尖职业选手的 bot。该 bot 通过自我对弈从零学会游戏，不使用模仿学习或树搜索，OpenAI 称这是迈向在涉及真实人类的复杂场景中达成明确目标的 AI 系统的一步。
推荐理由：原文说明 bot 从零自学习、不用模仿学习和树搜索，读者可据此理解其在复杂真实环境中的方法论意义。
7月20日 周四1 条
OpenAI 发布强化学习算法 Proximal Policy Optimization (PPO)
OpenAI 发布一类新的强化学习算法 Proximal Policy Optimization（PPO），性能与当时最先进方法相当或更好，同时实现和调参更简单。因易用且表现良好，PPO 已成为 OpenAI 内部默认的强化学习算法。
推荐理由：OpenAI 官方宣布 PPO 算法开源，并说明其成为内部默认强化学习算法的原因，可帮助读者了解该方法的定位。
6月13日 周二1 条
OpenAI 与 DeepMind 合作研究从人类偏好中学习
OpenAI 与 DeepMind 安全团队合作开发了一种算法，通过让人类判断两个候选行为中哪个更好来推断人类想要什么。该工作旨在免去人工编写目标函数，避免为复杂目标使用简单代理或目标偏差导致不良甚至危险行为，是构建安全 AI 系统的一步。
推荐理由：原文说明该算法通过比较两种行为的优劣来推断人类偏好，从而免去人工编写目标函数，可作为对齐研究的背景参考。
3月24日 周五1 条
OpenAI 提出进化策略（ES）可作为强化学习的可扩展替代方案
OpenAI 发现进化策略（ES）这一已有数十年历史的优化技术在 Atari/MuJoCo 等现代 RL 基准上可与标准强化学习方法性能相当，同时克服了 RL 的许多不便之处。
推荐理由：原文指出进化策略在 Atari/MuJoCo 基准上可媲美标准 RL，并克服 RL 的诸多不便，读者可借此了解另一种可扩展的优化路线。
4月27日 周三1 条
OpenAI 发布 OpenAI Gym 公测版强化学习工具包
OpenAI 发布 OpenAI Gym 公测版（public beta），这是一个用于开发和比较强化学习（RL）算法的工具包。它包含持续扩充的环境套件，覆盖模拟机器人到 Atari 游戏，并提供用于比较和复现结果的网站。
推荐理由：工具面向强化学习算法的开发与结果比较，环境覆盖模拟机器人和 Atari 游戏，可帮助读者了解可复现评测的入口。