先了解这件事
NVIDIA 发布教程,讲解在 Jetson 上部署新一代开放推理模型的方法,以 Nemotron 3.5 Lightning 和 Qwen3.8-27B 为例。
最新进展
NVIDIA 讲解如何在 Jetson 上部署和优化推理模型
事件进展1
作者实测 Nemotron 3.5 Lightning 在 Jetson 上以 NVFP4 加 DSpark 为最快推测解码配置,SpeedBench 各类负载吞吐 123.01–138.02 output tokens/s
NVIDIA Technical Blog:Agentic AI / Generative AI:NVIDIA 讲解如何在 Jetson 上部署和优化推理模型