inclusionAI 发布 Ling-3.0-flash 的 DSpark 投机解码模型 Ling3-DSpark
inclusionAI/Ling-3.0-flash-dspark
AI 导读inclusionAI 推出 Ling3-DSpark,一个为 Ling-3.0-flash 设计的 DSpark 投机解码模型,参数量 1.36B,通过置信度头动态选择草稿 token 数量。在 GSM8K 等九项基准上平均接受长度为 5.29,其中 GSM8K 达 6.40。模型经 SpecForge 训练,可通过 SGLang 部署。
来源:蚂蚁 inclusionAI:HuggingFace 新模型 · huggingface.co
事件后续1
查看事件全部- inclusionAI 发布 Ling-3.0-flash 的 DSpark 投机解码模型 Ling3-DSpark蚂蚁 inclusionAI:HuggingFace 新模型 · 8 月 9 日