Kimi K3 技术报告发布：百万 token 上下文与 2.5 倍效率提升
Kimi K3 just released their technical paper. one of the most detailed and exhaustive one. A milli...
AI 导读Kimi K3 发布技术报告，这是一款 2.8T MoE 模型，原生支持视觉理解与百万 token 上下文窗口。其架构和训练方案相比 Kimi K2 将整体扩展效率提升了约 2.5 倍，通过 Kimi Delta Attention、NoPE、跨深度注意力残差及 896 专家 MoE 等设计实现。模型权重、技术报告及配套高性能内核与基础设施已开源。
另有 9 家信源报道
- 黄仁勋、Kimi K3，与一场即将到来的开源战争公众号：数字生命卡兹克 · 7 月 28 日
- Kimi K3 开放日：模型权重、技术报告和关键 Infra 技术同步开放公众号：月之暗面 · 7 月 28 日
- Moonshot AI 开源 Kimi K3 模型权重与基础设施，称每单位算力智能度提升 2.5 倍The Decoder：AI News · 7 月 28 日
- SGLang 和 Miles 为月之暗面 2.8T 参数 Kimi K3 模型提供发布当日支持LMSYS Blog · 7 月 28 日
- Moonshot AI 的 Kimi K3 模型性能媲美美国顶尖系统，成本极低且将免费开放权重The Verge：AI · 7 月 28 日
- Kimi K3 开源，1M 上下文自主建城硅基流动 SiliconFlow · 7 月 28 日
- 月之暗面开源 Kimi K3 模型，2.8 万亿参数IT之家·人工智能 · 7 月 28 日
- Kimi K3 上线 Modal，支持无损加速推理Kimi.ai · 7 月 28 日
- Kimi K3 开源：2.8T MoE 模型与技术报告Kimi.ai · 7 月 27 日
来源：Rohan Paul · x.com
事件后续1
查看事件全部- Kimi K3 开放日：模型权重、技术报告和关键 Infra 技术同步开放公众号：月之暗面 · 7 月 28 日