微软完成MAI-Base-2预训练，称效率超DeepSeek

先了解这件事

Microsoft AI 宣布完成 MAI-Base-2 的预训练，这是一个 800 亿激活参数、2.8 万亿总参数的混合专家（MoE）基础模型。微软称，在 held-out 评测中该模型的 BPB（每字节比特数）低于所测全部开源权重模型，预训练 FLOPs 效率为 DeepSeek-V4-Pro-Base 的 4.2 至 12.3 倍；该模型在 6,000 个 NVIDIA GB200 GPU 上训练 38 天，平均浮点算力利用率 21%、有效吞吐量 89%。

Microsoft AI CEO Mustafa Suleyman 称，MAI 已完全自研出 3T 参数权重级别的 SOTA 预训练基础模型，后训练结果即将发布；他还称在 held-out 代码上，团队用少 12 倍的训练算力就达到 DeepSeek-V4-Pro-Base 的预训练分数，并称 MAI-Base-2 全程训练稳定。据 IT之家报道，苏莱曼 10 月 15 日在员工大会上称，MAI-Base-2 性能超过目前驱动 GPT-5.6 Sol 的模型（代号 Spud），训练算力只有 OpenAI 的四分之一。上述效率、评测与对比结果均出自微软方面的说法。

据 Testing Catalog 报道，微软同时已在筹备 MAI-Base-3 的训练周期，节省下的算力被用于训练更大模型。