腾讯发布 Hy4 Preview：770B 参数开源权重文本模型，上下文窗口达 1M token
Introducing Hy4 Preview
AI 导读腾讯今日发布 Hy4 Preview，这是一款新的开源权重纯文本输入（无视觉）大语言模型，总参数 770B，激活参数 49B，上下文窗口 1M token，Hugging Face 上体积 1.56TB。相比 7 月的 Hy3（295B 总参数、21B 激活、256k 上下文、598GB），规模大幅提升。Hy4 的推理配置仅支持 "high"（默认）和 "no_think" 两档。
另有 8 家信源报道
- 腾讯混元 Hy4 preview 发布：770B 参数、1M 上下文，可自主发现推理瓶颈并将端到端吞吐提升 31.8%腾讯混元 · 9 月 1 日
- 腾讯混元开源 Hy4 preview：1M 上下文 MoE腾讯混元 · 8 月 30 日
- 腾讯混元 Hy4 预览版上线 OpenCode Go腾讯混元 · 8 月 29 日
- OpenCode Go 推出 Hy4 preview 模型opencode · 8 月 29 日
- 腾讯发布开源 MoE 旗舰模型 Hy4 PreviewTesting Catalog · 8 月 28 日
- 腾讯混元发布Hy4预览版，770B参数开源腾讯混元 · 8 月 28 日
- 腾讯发布混元 Hy4 preview 模型，稳居开源模型第一梯队IT之家·人工智能 · 8 月 28 日
- 腾讯混元发布 Hy4 preview：770B 总参数、1M 上下文，开源上线公众号：腾讯混元 · 8 月 28 日
来源：Simon Willison 博客 · simonwillison.net
事件后续1
查看事件全部- 腾讯混元发布 Hy4 preview：770B 总参数、1M 上下文，开源上线公众号：腾讯混元 · 8 月 28 日