腾讯混元开源 AngelSpec 投机解码框架
🚀 We’ve open-sourced AngelSpec, an end-to-end speculative decoding framework supporting both traini...
AI 导读腾讯混元开源端到端投机解码框架 AngelSpec，支持训练与部署。在 Hy3-A21B 模型上，其 DFly 方案相比自回归解码实现 1.98–2.40 倍端到端加速，吞吐量比 DFlash 高 10.5–11.8%。训练代码及 Hy3-A21B MTP/DFly 草稿模型权重已开源。
另有 1 家信源报道
- 腾讯开源 AngelSpec：面向推测解码草稿模型的统一训练框架MarkTechPost · 7 月 30 日
来源：腾讯混元 · x.com
事件后续1
查看事件全部- 腾讯混元开源 AngelSpec 投机解码框架腾讯混元 · 7 月 29 日