蚂蚁百灵开源 Ling-3.0 六个基础模型检查点
🧵 We’ve open-sourced 6 Base Model checkpoints for Ling-3.0-tiny & Ling-3.0-flash, covering pre-trai...
AI 导读蚂蚁百灵开源 Ling-3.0-tiny 与 Ling-3.0-flash 的 6 个 Base Model 检查点,覆盖预训练、中期训练及 WSM 合并阶段,均未经过后训练。其用 WSM 替代 LR 衰减进行加权检查点合并,支持持续预训练与离线策略探索;社区可在 tiny-base 上验证策略后扩展至 flash-base。
另有 2 家信源报道
- 蚂蚁百灵开源 Ling-3.0-tiny / flash Base 模型,开放训练过程关键节点IT之家·人工智能 · 8 月 21 日
- Ling-3.0 tiny & flash Base Models 正式开源公众号:蚂蚁百灵 · 8 月 20 日
来源:蚂蚁百灵 · x.com
事件后续1
查看事件全部- Ling-3.0 tiny & flash Base Models 正式开源公众号:蚂蚁百灵 · 8 月 20 日