DeepSeek 发布 DeepSeek-V4.1-Flash:以 CED 架构压缩 KV cache
本周最佳, Week 37 没有 AI slop, 唯一的 DeepSeek-V4.1-Flash: Causal Encoder-Decoder (CED) DeepSeek-V4.1-Fla...
AI 导读DeepSeek 发布 DeepSeek-V4.1-Flash,一款 552B 参数(每 token 激活 16B/预填充 8B)的多模态 MoE 模型,支持最长一百万 token 上下文。其 Causal Encoder-Decoder(CED)架构结合 CSA2 与 FP4 KV caching,将全局 KV cache 降至每 token 890 字节,约为 DeepSeek-V4-Flash 的 1/4、DeepSeek-V1 的 1/437,配合 SWA Bounded Replay 将持久 KV cache 降至约 1/8,性能仍优于基线。模型基于 45T token 多模态语料预训练,checkpoint 已在 https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash 开放。
另有 2 家信源报道
- Fireworks 上线 DeepSeek-V4.1-Flash,DeepSWE 达 GPT-6 Astra 水准、成本仅 1/15Fireworks AI · 30 天前
- DeepSeek V4.1 Flash 发布,以 40 分超越 DeepSeek V4 Pro 0813 成为新旗舰Artificial Analysis · 9 月 11 日
来源:马东锡 NLP · x.com
事件后续2
查看事件全部- Fireworks 上线 DeepSeek-V4.1-Flash,DeepSWE 达 GPT-6 Astra 水准、成本仅 1/15Fireworks AI · 30 天前
- DeepSeek AI 发布 DeepSeek-V4.1-Flash:1M 上下文、FP4 KV 缓存与跨层注意力复用MarkTechPost · 9 月 10 日