蚂蚁百灵发布 Ling & Ring 2.6 技术报告
百灵 Ling & Ring 2.6 技术报告发布:面向真实 Agent 工作流的高效万亿级模型
AI 导读蚂蚁百灵发布 Ling & Ring 2.6 技术报告,公开 2.6 系列在架构、预训练、后训练及 Agent 强化学习等细节。该系列采用 Lightning Attention 与 MLA 以 7:1 比例结合的混合线性注意力架构,预训练处理约 9.6T tokens,上下文扩展至 256K。
来源:公众号:蚂蚁百灵 · mp.weixin.qq.com
事件后续1
查看事件全部- 蚂蚁百灵发布 Ling & Ring 2.6 技术报告公众号:蚂蚁百灵 · 6 月 16 日