Anthropic 发表 Toy Models of Superposition 论文,演示神经网络的特征叠加现象
Anthropic 发布论文 Toy Models of Superposition,用稀疏合成数据训练的小型 ReLU 网络首次明确演示了神经网络可以在维度不足的情况下以叠加方式表示更多特征。
推荐理由:论文用小型 ReLU 网络直接演示了特征叠加现象,并给出相变和几何结构的理论解释,为理解神经元多义性提供了可参考的框架。
全球 AI 公司、研究机构和媒体的最新动态,自动挑出值得看的,全天自动更新。
更新于 10月25日 03:23 · 每小时自动更新
Anthropic 发布论文 Toy Models of Superposition,用稀疏合成数据训练的小型 ReLU 网络首次明确演示了神经网络可以在维度不足的情况下以叠加方式表示更多特征。
推荐理由:论文用小型 ReLU 网络直接演示了特征叠加现象,并给出相变和几何结构的理论解释,为理解神经元多义性提供了可参考的框架。
Hugging Face 发布 diffusers 0.3,为扩散模型库新增图生图、Textual Inversion、实验性 inpainting、ONNX 导出和 macOS M1/M2 推理支持等功能。优化后 Stable Diffusion 显存占用降至 3.2GB,代价是约 10% 的速度损失;社区还贡献了视频生成、可解释性工具和日语、动漫方向的微调模型。
推荐理由:原文梳理了 diffusers 0.3 的图生图、Textual Inversion、低显存优化等新功能,开源图像工作流的使用者可以对照更新自己的用法。
OpenAI 为 DALL·E 推出 outpainting 功能,可在原图之外继续扩展画面,支持任意尺寸的图像创作,用于延展创意并讲述更完整的故事。
Hugging Face 发布教程,讲解如何用 🧨 Diffusers 库运行 CompVis、Stability AI 和 LAION 推出的文生图模型 Stable Diffusion v1-4。
推荐理由:来自 Diffusers 团队的第一手教程,同时讲清 latent diffusion 三大组件原理,代码示例可直接复用于文生图管线。
Hugging Face 与 bitsandbytes 合作,将 LLM.int8() 8 位矩阵乘法完整集成到 transformers 和 accelerate 库,使 BLOOM-176B 等大模型推理显存占用减半且无性能下降。
推荐理由:文章由集成团队亲自讲解 LLM.int8() 的原理、异常值处理和 transformers 集成细节,并附基准数据与代码示例。
Hugging Face 宣布 🤗 transformers 的 TensorFlow 文本生成现可通过 XLA 编译加速,某些场景提速超过 100 倍,在多数基准中比 PyTorch 更快,最高快达 9 倍。
推荐理由:Hugging Face 官方讲解如何用 jit_compile=True 加速 TensorFlow 文本生成,给出编译缓存机制、padding 技巧和实测数据,方法可直接复用。
OpenAI 宣布 DALL·E 开放测试,未来几周内将从候补名单邀请 100 万人使用。用户每月可获得免费生成额度,额外额度按 115 次生成 15 美元的价格购买。
推荐理由:原文明确了邀请规模和付费定价,读者可以了解 DALL·E 测试版的获取方式与使用成本。
Hugging Face 与 BigScience 发布 1760 亿参数的开源多语言大模型 BLOOM,支持 46 种自然语言和 13 种编程语言。模型由 70 多个国家、250 多个机构的 1000 多名研究者历时一年协作完成,在法国 Jean Zay 超算上训练 117 天,算力来自 CNRS 和 GENCI 价值约 300 万欧元的资助。
推荐理由:原文来自 BLOOM 团队官方发布,给出了参数规模、语言覆盖、训练成本和开放使用方式,读者可以了解这个开放大模型的实际边界。
Hugging Face 发布入门教程,讲解如何用 Inference API 对 Twitter 推文做情感分析,分 coder 与非 coder 两条路径。
推荐理由:教程同时给出代码和无代码两条路径,用 Tweepy 加 Inference API 分析 Notion 相关推文,方法可直接复用到其他品牌。
OpenAI 通过 Video PreTraining(VPT)在大量无标注人类 Minecraft 游玩视频上训练神经网络,仅使用少量承包商标注数据,微调后模型可合成钻石工具,这一任务熟练人类通常需要超过 20 分钟、约 24,000 个操作。模型使用键盘和鼠标的原生人类接口,是迈向通用计算机操作智能体的一步。
推荐理由:原文说明 VPT 用少量标注数据配合海量无标注视频训练模型,读者可了解这种半监督路线对训练通用智能体的参考价值。
Hugging Face 发布教程,基于 Ho et al. 2020 的 DDPM 论文和 Phil Wang 的实现,用 PyTorch 逐步拆解并实现去噪扩散概率模型。
推荐理由:原文从数学推导到完整 PyTorch 代码逐段拆解 DDPM,读者可以照此动手实现一个可训练的扩散模型。
Hugging Face 在 Hub 上为模型、数据集和 Spaces 仓库推出 Pull Requests 和 Discussions 功能,位于新的 Community 标签页,任何社区成员均可参与。PR 不使用 fork,而是通过源仓库中称为 refs 的特殊分支实现,Issues 与 PR 不作区分并显示在同一列表,旨在打造比 GitHub 更简化的 ML 协作流程。
推荐理由:原文说明了 PR 与讨论功能的具体机制和与 GitHub 的差异,读者可以据此了解如何参与 Hub 上的模型与数据集协作。
Hugging Face 深度强化学习课程发布 Unit 2 第二部分,讲解 Q-Learning 算法、Q-Function 与 Q-Table,以及 Epsilon Greedy 策略和 TD 更新,并区分 off-policy 与 on-policy。
推荐理由:课程官方教程用迷宫示例逐步拆解 Q-Learning 算法和 Q 表更新,读者可跟着 Colab 从零实现第一个 RL 智能体。
Hugging Face 发布 Gradio 3.0,对库进行了彻底重构设计。前端改用 Svelte 等现代技术带来更小的载荷和更快的页面加载,组件更新增 Gallery 和 TabbedInterface;新推出的 Gradio Blocks 低阶 API 支持在 Python 中自定义布局、多步骤数据流和组件属性动态控制。
推荐理由:Hugging Face 官方说明 Gradio 3.0 的前端重构与 Blocks 低阶 API,读者可以判断新布局与数据流控制对模型演示的实际影响。
Hugging Face 宣布完成 1 亿美元 C 轮融资,由 Lux Capital 领投,Sequoia、Coatue 重点参与。平台目前托管 100,000 个预训练模型和 10,000 个数据集,超过 10,000 家公司在使用;新资金将用于加大研究、开源产品和负责任 AI 民主化的投入,团队过去 12 个月从 30 人扩展到 120+ 人。
推荐理由:官方宣布融资并给出平台规模数据,读者可据此了解其开源生态与后续投入方向。
OpenAI 发布题为 Hierarchical text-conditional image generation with CLIP latents 的研究,提出基于 CLIP 潜变量的分层文本条件图像生成方法。正文抓取失败,仅标题可用,细节以原文页面为准。
监督学习任务的性能依赖于高质量标注数据,但获取大量标注样本成本高昂。主动学习是一种在标注预算有限、但允许投入部分人工标注资源的条件下,应对标注数据不足的范式。其核心思路是智能地选择最具信息量的样本进行标注,以在有限预算内最大化模型性能的提升。该方法旨在解决当面临标注数据受限时,如何通过策略性采样来高效利用标注资源的问题。
推荐理由:这是 Lilian Weng 数据不足系列的第二篇,把主动学习的核心采样策略和实际权衡讲得很清楚,做数据标注和 ML 工程的同学值得复习一遍。
OpenAI 训练出比 GPT-3 更能遵循用户意图的 InstructGPT 模型,同时更真实、毒性更低。模型采用人在回路的对齐研究技术训练,现已作为 OpenAI API 的默认语言模型部署。
推荐理由:原文说明了对齐训练带来的意图遵循与真实性改进,以及 InstructGPT 成为 API 默认模型这一关键落地变化。
OpenAI 在 API 中推出 embeddings 新端点,用于自然语言和代码任务。该端点可支持语义搜索、聚类、主题建模和分类等应用。
推荐理由:原文给出了新的 embeddings 端点及其适用任务,读者可据此判断能否用于搜索、聚类或分类类需求。
OpenAI 宣布可为应用定制 GPT-3,通过微调(fine-tuning)适配自身场景。官方称只需一条命令即可完成微调。
推荐理由:OpenAI 官方宣布以单条命令即可对 GPT-3 做应用定制微调,降低了把基座模型适配到具体业务场景的门槛。