热点榜
热点事件已平息

作者实测 Nemotron 3.5 Lightning 在 Jetson 上以 NVFP4 加 DSpark 为最快推测解码配置,SpeedBench 各类负载吞吐 123.01–138.02 output tokens/s

1 篇报道1 个报道来源9 月 4 日更新

先了解这件事

NVIDIA 发布教程,讲解在 Jetson 上部署新一代开放推理模型的方法,以 Nemotron 3.5 Lightning 和 Qwen3.8-27B 为例。

最新进展

NVIDIA 讲解如何在 Jetson 上部署和优化推理模型

事件进展1

  1. 作者实测 Nemotron 3.5 Lightning 在 Jetson 上以 NVFP4 加 DSpark 为最快推测解码配置,SpeedBench 各类负载吞吐 123.01–138.02 output tokens/s

    NVIDIA Technical Blog:Agentic AI / Generative AI:NVIDIA 讲解如何在 Jetson 上部署和优化推理模型

看完资讯,聊聊你的企业

一对一,30 分钟让你的企业用 AI 推动起来。

WECHAT

添加我的微信

长按或选中下方微信号复制。