先了解这件事
NVIDIA 发布开源模型 Nemotron 3 Ultra,采用 Hybrid Transformer-Mamba MoE 架构,总参数 550B、激活 55B,上下文最长 1M token,主打长时程自主智能体工作流,vLLM 提供 Day-0 支持。
最新进展
NVIDIA 发布开源推理模型 Nemotron 3 Ultra,vLLM 提供 Day-0 支持
事件进展1
宣布NVIDIA Nemotron 3 Ultra开放模型在vLLM上获得Day-0支持,开放权重可下载并附部署cookbook
vLLM 官方博客:NVIDIA 发布开源推理模型 Nemotron 3 Ultra,vLLM 提供 Day-0 支持