腾讯混元开源 AngelSpec:投机解码推理加速最高 2.4 倍
腾讯混元开源 AngelSpec:支持投机解码训练及部署,推理加速最高2.4倍
AI 导读腾讯混元开源覆盖训练到部署的投机解码框架 AngelSpec,并放出 Hy3-A21B 的 MTP 与 DFly drafter 权重及训练代码。
来源:公众号:腾讯混元 · mp.weixin.qq.com
事件后续1
查看事件全部- 腾讯混元开源 AngelSpec:投机解码推理加速最高 2.4 倍公众号:腾讯混元 · 7 月 29 日