热点榜
热点事件已平息

vLLM宣布对MiniMax M3家族(BF16与MXFP8检查点)的Day-0支持,含MSA后端、解析器、多模态与TP/EP部署配方,已在H200/GB200/B300及MI350/MI300验证

1 篇报道1 个报道来源6 月 12 日更新

先了解这件事

vLLM 宣布对 MiniMax M3 的 day-0 支持,覆盖 BF16 与 MXFP8 检查点,支持 1M-token 上下文、原生图像视频输入、minimax_m3 工具与推理解析器、EAGLE3 推测解码(草稿模型 Inferact/MiniMax-M3-EAGLE3)以及 TP/EP 部署和 Docker 镜像。

最新进展

vLLM 发布 MiniMax M3 Day-0 支持:1M 上下文多模态推理

事件进展1

  1. vLLM宣布对MiniMax M3家族(BF16与MXFP8检查点)的Day-0支持,含MSA后端、解析器、多模态与TP/EP部署配方,已在H200/GB200/B300及MI350/MI300验证

    vLLM 官方博客:vLLM 发布 MiniMax M3 Day-0 支持:1M 上下文多模态推理

看完资讯,聊聊你的企业

一对一,30 分钟让你的企业用 AI 推动起来。

WECHAT

添加我的微信

长按或选中下方微信号复制。