微软完成 2.8T 参数基模 MAI-Base-2 预训练,称性能强于所有参测开源权重模型
微软完成 SOTA 基模 MAI-Base-2 预训练,性能强于所有参测开源权重模型
AI 导读微软宣布完成新一代 SOTA 基础模型 MAI-Base-2 的预训练,称其性能强于所有参测开源权重模型。该模型总参数 2.8T、活跃参数 80B,在 6,000 个 NVIDIA GB200 GPU 上训练 38 天,平均浮点算力利用率 21%、有效吞吐量 89%,预训练算力效率据称为 DeepSeek-V4-Pro-Base 的 4~12 倍。
另有 6 家信源报道
- 微软发布自研模型 MAI-Base-2,称仅用 OpenAI 1/4 算力即超越同类模型IT之家·人工智能 · 14 小时前
- 微软 MAI-Base-2 预训练完成,MAI-Base-3 已在筹备Testing Catalog · 23 小时前
- Microsoft AI 宣布自研 3T 参数级预训练基础模型达到 SOTAMustafa Suleyman · 1 天前
- Microsoft AI 的 Mustafa Suleyman 称用 1/12 训练算力在代码上追平 DeepSeek-V4-Pro-BaseMustafa Suleyman · 1 天前
- 微软MAI-Base-2训练全程稳定Mustafa Suleyman · 1 天前
- Microsoft AI 公布 MAI-Base-2 预训练细节,2.8T 参数 MoE 模型 FLOPs 效率达 DeepSeek-V4-Pro-Base 的 4.2 至 12.3 倍Microsoft AI:官方博客 · 1 天前
来源:IT之家·人工智能 · ithome.com
事件后续1
查看事件全部- Microsoft AI 公布 MAI-Base-2 预训练细节,2.8T 参数 MoE 模型 FLOPs 效率达 DeepSeek-V4-Pro-Base 的 4.2 至 12.3 倍Microsoft AI:官方博客 · 1 天前