美团发布并开源万亿参数模型 LongCat-2.0,五万卡国产算力完成全流程训练
国产芯片上跑出的万亿参数模型,美团 LongCat-2.0 正式发布
AI 导读美团正式发布并开源万亿参数大模型 LongCat-2.0,总参数 1.6T、平均激活约 48B,在五万卡国产算力集群上完成从预训练到推理的全流程。模型原生支持 1M 超长上下文,预训练数据超 30T tokens;训练月均日故障率降低 70% 以上,训练 MFU 提升 1.5 倍,稳态日吞吐超 1T tokens/day。
来源:公众号:龙猫LongCat · mp.weixin.qq.com
事件后续1
查看事件全部- 美团发布并开源万亿参数模型 LongCat-2.0,五万卡国产算力完成全流程训练公众号:龙猫LongCat · 6 月 30 日