MiniMax M3 获 vLLM 日零支持,1M 上下文窗口与 MSA 稀疏注意力
day-0 in @vllm_project and it comes with: dedicated MSA prefill/decode kernels, 1M-context serving ...
AI 导读MiniMax M3 发布,具备前沿编码与智能体能力,原生图像视频输入和计算机使用,1M-token 上下文。核心采用 MSA 稀疏注意力:每个 query 评分 128-token KV 块,仅对 top 块做注意力。vLLM 当日即支持 M3,包括专用 MSA prefill/decode 核、前缀缓存与分块 prefill、BF16 和 MXFP8 检查点、Hopper 与 Blackwell 的 MoE 后端,并在 NVIDIA 与 AMD 硬件上验证。同时支持原生多模态输入、工具调用、推理解析和思考模式控制等智能体工作负载。
另有 4 家信源报道
- MiniMax 开源 M3 模型权重及 MSA 技术论文公众号:MiniMax · 6 月 15 日
- MiniMax M3 权重开源,回应 Anthropic 出口管制MiniMax · 6 月 13 日
- MiniMax M3 开源模型发布:1M-token 上下文与 MSA 稀疏注意力MiniMax · 6 月 13 日
- MiniMax M3 开源权重模型发布,已上架 HuggingFaceMiniMax · 6 月 12 日
来源:MiniMax · x.com