返回精选
vLLM 官方博客Inferact, Reflection, and Nvidia2026-10-16 08:001 天前

vLLM 实现 Reflection Beam 501B MoE 模型 Day 0 支持

Serving Reflection Beam on vLLM from Day 0

AI 导读

vLLM 宣布从 Day 0 支持 Reflection 的 Beam 模型,这是一个 501B 参数、每 token 激活 23B 的 MoE 模型,在 NVIDIA Blackwell 上完成优化。

来源:vLLM 官方博客 · vllm.ai

事件后续4

查看事件全部

看完资讯,聊聊你的企业

留下联系方式,我会亲自联系你。

WECHAT

添加我的微信

长按或选中下方微信号复制。