腾讯混元发布 1bit 与 4bit 量化版 Hy3 模型，旗舰 AI 模型可单卡本地运行

腾讯混元将 295B 参数的旗舰模型 Hy3 量化至 1bit 与 4bit，并打包成 GGUF 格式。1bit 版本（IQ1_M）将权重从 598 GB 压缩至 85.5 GiB，单张 96GB 推理显卡即可部署；4bit 版本（Q4_K_M）体积 169.9 GiB，需两张显卡。量化版本在 Agent 能力、多语言代码、工具调用和长文理解等任务上贴近满血模型。团队还开发了 llama.cpp 的 MTP 投机解码 patch，开启后 1bit 版本解码速度提升约 50%，4bit 版本提升接近 60%。此外还提供 GPTQ Int4 版本，可通过 vLLM 部署。