腾讯混元 Hy3 量化版发布：1bit 版本单卡可部署，4bit 版本接近满血性能
极致量化，近三千亿参数 Hy3 单卡即可部署
AI 导读腾讯混元团队为旗舰模型 Hy3（295B 参数）推出量化版本。1bit 版本（IQ1_M）将权重从 598 GB 压缩至 85.5 GiB，缩小 6.7 倍，单张 96GB 推理显卡即可部署；4bit 版本（Q4_K_M）体积 169.9 GiB，两张显卡可承载。量化版在 Agent、多语言代码、工具调用、长文理解等任务上表现接近满血模型。团队还提供 GPTQ Int4 版本，支持 vLLM 部署。配合 MTP 投机解码，1bit 版本解码速度提升约 50%，4bit 版本提升近 60%。所有版本已开源并打包为 GGUF 格式，适配 llama.cpp 生态。
另有 10 家信源报道
- 腾讯混元发布 Hy3 1-bit 与 4-bit 版本腾讯混元 · 7 月 15 日
- 腾讯混元发布 1bit 与 4bit 量化版 Hy3 模型，旗舰 AI 模型可单卡本地运行IT之家·人工智能 · 7 月 14 日
- 腾讯混元发布 Hy3 模型 1-bit/4-bit 量化版，单 GPU 可运行腾讯混元 · 7 月 14 日
- 腾讯混元 Hy3 登顶 OpenRouter 排行榜腾讯混元 · 7 月 13 日
- 腾讯开源Hy3：295B MoE（21B活跃参数），搜索超越开源，编码逊于GLM-5.2Rohan Paul · 7 月 7 日
- 腾讯发布开源MoE模型Hy3，性能声称匹敌5倍规模The Decoder：AI News · 7 月 7 日
- 腾讯混元发布295B MoE模型Hy3腾讯混元 · 7 月 6 日
- 腾讯发布295B参数开源MoE模型Hy3Testing Catalog · 7 月 6 日
- 腾讯元宝接入混元 Hy3 模型，支持免费做文件IT之家·人工智能 · 7 月 6 日
- 腾讯混元今日发布并开源 Hy3 模型，性能比肩 2～5 倍参数规模旗舰模型IT之家·人工智能 · 7 月 6 日
来源：公众号：腾讯混元 · mp.weixin.qq.com