蚂蚁 Ling Infra 与 RadixArk SGLang 优化 Ling-3.0-flash 解码性能

先了解这件事

蚂蚁 Ling Infra 团队与 RadixArk SGLang 团队将 Ling-3.0-flash 混合线性注意力 MoE 模型的单请求解码速度从 288 tok/s 提升至 606 tok/s，平均 TPOT 从 3.33 ms 降至 1.53 ms。