NVIDIA 发布开源推理模型 Nemotron 3 Ultra,vLLM 提供 Day-0 支持
Announcing Day-0 Support for NVIDIA Nemotron 3 Ultra on vLLM
AI 导读NVIDIA 发布开源模型 Nemotron 3 Ultra,采用 Hybrid Transformer-Mamba MoE 架构,总参数 550B、激活 55B,上下文最长 1M token,主打长时程自主智能体工作流,vLLM 提供 Day-0 支持。
来源:vLLM 官方博客 · vllm.ai
事件后续1
查看事件全部- NVIDIA 发布开源推理模型 Nemotron 3 Ultra,vLLM 提供 Day-0 支持vLLM 官方博客 · 6 月 4 日