先了解这件事
Artificial Analysis 将 AMD MI355X 纳入其 AA-AgentPerf 智能体推理基准,覆盖 Kimi K3、GLM-5.2/5.3 和 DeepSeek V4 Pro 四个模型,并与 NVIDIA 系统在编码智能体工作负载上的最新结果对比。该机构称,MI355X 的测试在单台 8 卡节点上完成,所有结果均使用 ROCm nightly 以及 vLLM、SGLang 的开发版构建。
随后 AMD 与 Embedded LLM 在 vLLM 官方博客发文,解析 Kimi K3 在八卡 AMD Instinct MI355X 上的推理优化,并称其单 GPU 吞吐超过 NVIDIA HGX B300 24.4%。
AI 根据报道生成 · 1 天前更新最新进展
vLLM 解析 Kimi K3 在 AMD Instinct MI355X 上的推理优化,单 GPU 吞吐超 NVIDIA HGX B300 24.4%
热度走势
事件进展2
vLLM博客详解Kimi K3在AMD MI355X上的优化
vLLM 官方博客:vLLM 解析 Kimi K3 在 AMD Instinct MI355X 上的推理优化,单 GPU 吞吐超 NVIDIA HGX B300 24.4%AA-AgentPerf新增AMD MI355X评测结果
Artificial Analysis:Artificial Analysis 新增 AMD MI355X 智能体推理测试结果