Microsoft AI 的 Mustafa Suleyman 称用 1/12 训练算力在代码上追平 DeepSeek-V4-Pro-Base
Scaling laws, scaling... with compounding efficiency!
AI 导读Mustafa Suleyman 提出 scaling laws 正在叠加效率增益,并称在 held-out 代码上,其团队用少 12 倍的训练算力就达到了 DeepSeek-V4-Pro-Base 的预训练分数。
另有 6 家信源报道
- 微软完成 2.8T 参数基模 MAI-Base-2 预训练,称性能强于所有参测开源权重模型IT之家·人工智能 · 13 小时前
- 微软发布自研模型 MAI-Base-2,称仅用 OpenAI 1/4 算力即超越同类模型IT之家·人工智能 · 14 小时前
- 微软 MAI-Base-2 预训练完成,MAI-Base-3 已在筹备Testing Catalog · 23 小时前
- Microsoft AI 宣布自研 3T 参数级预训练基础模型达到 SOTAMustafa Suleyman · 1 天前
- 微软MAI-Base-2训练全程稳定Mustafa Suleyman · 1 天前
- Microsoft AI 公布 MAI-Base-2 预训练细节,2.8T 参数 MoE 模型 FLOPs 效率达 DeepSeek-V4-Pro-Base 的 4.2 至 12.3 倍Microsoft AI:官方博客 · 1 天前
来源:Mustafa Suleyman · x.com
事件后续1
查看事件全部- Microsoft AI 公布 MAI-Base-2 预训练细节,2.8T 参数 MoE 模型 FLOPs 效率达 DeepSeek-V4-Pro-Base 的 4.2 至 12.3 倍Microsoft AI:官方博客 · 1 天前