SGLang 和 Miles 为月之暗面 2.8T 参数 Kimi K3 模型提供发布当日支持
Blog SGLang and Miles Add Day-0 Support for Kimi K3 We are excited to announce Day-0 support for Kimi K3 in SGLang and Miles. K3 is the first open-source model in the 3-trillion-parameter class, and its hybrid architecture departs from convention in al... SGLang Team
AI 导读SGLang 和 Miles 为月之暗面开源的 2.8T 参数模型 Kimi K3 提供发布当日支持，分别负责推理和 RL 训练。K3 采用 69 层 KDA 线性注意力与 24 层 MLA 交错的混合架构，在 SGLang 上单卡 batch-1 解码速度达约 113 tok/s，结合 DSpark 推测解码可达约 423 tok/s。
另有 9 家信源报道
- 黄仁勋、Kimi K3，与一场即将到来的开源战争公众号：数字生命卡兹克 · 7 月 28 日
- Kimi K3 开放日：模型权重、技术报告和关键 Infra 技术同步开放公众号：月之暗面 · 7 月 28 日
- Moonshot AI 开源 Kimi K3 模型权重与基础设施，称每单位算力智能度提升 2.5 倍The Decoder：AI News · 7 月 28 日
- Kimi K3 技术报告发布：百万 token 上下文与 2.5 倍效率提升Rohan Paul · 7 月 28 日
- Moonshot AI 的 Kimi K3 模型性能媲美美国顶尖系统，成本极低且将免费开放权重The Verge：AI · 7 月 28 日
- Kimi K3 开源，1M 上下文自主建城硅基流动 SiliconFlow · 7 月 28 日
- 月之暗面开源 Kimi K3 模型，2.8 万亿参数IT之家·人工智能 · 7 月 28 日
- Kimi K3 上线 Modal，支持无损加速推理Kimi.ai · 7 月 28 日
- Kimi K3 开源：2.8T MoE 模型与技术报告Kimi.ai · 7 月 27 日
来源：LMSYS Blog · lmsys.org
事件后续1
查看事件全部- Kimi K3 开放日：模型权重、技术报告和关键 Infra 技术同步开放公众号：月之暗面 · 7 月 28 日