MiniMax 开源 M3 模型权重及 MSA 技术论文
我们开源了 MiniMax M3
AI 导读MiniMax 上周五开源了 428B 总参数、23B 激活参数的 M3 模型权重，同步发布 MSA（MiniMax Sparse Attention）技术论文，该架构显著降低长上下文计算成本。M3 是首个从预训练阶段就进行文本、图像等多模态交错混合训练的开源模型。发布两周后，M3 在 Artificial Analysis 综合智能指数、GDPval-AA 排行榜均获开源模型第一，Code Arena WebDev 跻身帕累托最优序列，Vals.AI 榜单居国产模型首位。输出速度已从约 30 TPS 提升至约 80 TPS，计划再提速 30–40%；Token Plan 后台新增调用量看板。
另有 4 家信源报道
- MiniMax M3 权重开源，回应 Anthropic 出口管制MiniMax · 6 月 13 日
- MiniMax M3 开源模型发布：1M-token 上下文与 MSA 稀疏注意力MiniMax · 6 月 13 日
- MiniMax M3 获 vLLM 日零支持，1M 上下文窗口与 MSA 稀疏注意力MiniMax · 6 月 13 日
- MiniMax M3 开源权重模型发布，已上架 HuggingFaceMiniMax · 6 月 12 日
来源：公众号：MiniMax · mp.weixin.qq.com