返回精选
vLLM 官方博客vLLM Team and Inferact2026-07-27 08:007 月 27 日

vLLM 发布 Kimi K3 Day-0 支持:2.8T 混合 MoE 的部署指南与性能数据

Kimi K3 Is Here: Efficient Day-0 Support on vLLM

AI 导读

vLLM 官方宣布 Day-0 支持 Kimi K3,这是一个 2.8 万亿参数的 MoE 模型(每 token 激活 896 专家中的 16 个),基于 Kimi Delta Attention 与 Attention Residuals,支持 1M token 上下文窗口和原生视觉。

来源:vLLM 官方博客 · vllm.ai

事件后续1

查看事件全部

看完资讯,聊聊你的企业

一对一,30 分钟让你的企业用 AI 推动起来。

WECHAT

添加我的微信

长按或选中下方微信号复制。