vLLM 团队优化 DeepSeek-V4.1-Flash 推理

先了解这件事

Inferact 与 vLLM 社区在 DeepSeek-V4.1-Flash 发布三周内完成推理优化，官方博客称在 SemiAnalysis AgentX 智能体服务基准上吞吐提升 5 倍，低并发速度提升 1.9 倍，150 TPS 约束下吞吐提升 5.3 倍。

据 vLLM 官方博客，优化结合了 DeepSeek 的模型级优化与 vLLM 侧的系统优化，主要面向 Agent 场景。