先了解这件事
2026 年 8 月 29 日,Unsloth 在 X 平台发布 GLM-5.3 的动态 GGUF 量化版本及本地运行指南。据其说明,2-bit 量化模型体积从 1.51TB 压缩至 239GB,缩小约 83%,同时保留约 81% 的 top-1 准确率;1-bit 版本则缩小约 85%,准确率约为 76%。该消息为目前关于此事的唯一报道,量化版本的具体适用对象、运行条件与限制尚未在报道中进一步说明。
AI 根据报道生成 · 12 天前更新最新进展
Unsloth 发布 GLM-5.3 GGUF 量化版本地运行指南
事件进展1
GLM-5.3的2位量化版本现已可本地运行:由1.51TB压缩至239GB(缩小83%),保留约81%精度,可在256GB Mac或RAM/VRAM配置运行
Unsloth:Unsloth 发布 GLM-5.3 GGUF 量化版本地运行指南