Microsoft AI 公布 MAI-Base-2 预训练细节,2.8T 参数 MoE 模型 FLOPs 效率达 DeepSeek-V4-Pro-Base 的 4.2 至 12.3 倍
Frontier Pre-training at Microsoft AI
AI 导读Microsoft AI 宣布完成 MAI-Base-2 预训练,这是一个 800 亿激活、2.8T 总参数的 MoE 基础模型,在 held-out 评测中 BPB 低于所测全部开源权重模型,预训练 FLOPs 效率比 DeepSeek-V4-Pro-Base 高 4.2 至 12.3 倍。
另有 6 家信源报道
- 微软完成 2.8T 参数基模 MAI-Base-2 预训练,称性能强于所有参测开源权重模型IT之家·人工智能 · 12 小时前
- 微软发布自研模型 MAI-Base-2,称仅用 OpenAI 1/4 算力即超越同类模型IT之家·人工智能 · 13 小时前
- 微软 MAI-Base-2 预训练完成,MAI-Base-3 已在筹备Testing Catalog · 22 小时前
- Microsoft AI 宣布自研 3T 参数级预训练基础模型达到 SOTAMustafa Suleyman · 24 小时前
- Microsoft AI 的 Mustafa Suleyman 称用 1/12 训练算力在代码上追平 DeepSeek-V4-Pro-BaseMustafa Suleyman · 24 小时前
- 微软MAI-Base-2训练全程稳定Mustafa Suleyman · 24 小时前
来源:Microsoft AI:官方博客 · microsoft.ai
事件后续1
查看事件全部- Microsoft AI 公布 MAI-Base-2 预训练细节,2.8T 参数 MoE 模型 FLOPs 效率达 DeepSeek-V4-Pro-Base 的 4.2 至 12.3 倍Microsoft AI:官方博客 · 24 小时前