返回精选
vLLM 官方博客vLLM Team and Inferact2026-08-12 08:008 月 12 日

vLLM 提供 Qwen3.8-2.4T-A95B Day-0 支持

Day 0 Support for Qwen3.8-2.4T-A95B on vLLM

AI 导读

vLLM 宣布对 Qwen3.8-2.4T-A95B 提供 Day-0 支持,该模型是基于 Qwen 3.5 架构的 2.4 万亿参数稀疏 MoE 模型,含 512 个专家,92 层混合骨干中每 4 层使用一次 full attention,其余 69 层为线性注意力。

来源:vLLM 官方博客 · vllm.ai

事件后续1

查看事件全部

看完资讯,聊聊你的企业

一对一,30 分钟让你的企业用 AI 推动起来。

WECHAT

添加我的微信

长按或选中下方微信号复制。