先了解这件事
Zyphra 发布 ZAYA1-8B,一个活跃参数不足 10 亿的 MoE 模型,是首个完全在 AMD Instinct MI300 集群(1,024 个节点,与 IBM 合作构建)上完成预训练、中期训练和监督微调的模型。
最新进展
Zyphra 发布 ZAYA1-8B:全 AMD 集群训练的 MoE 模型
事件进展1
Zyphra发布ZAYA1-8B:首个在AMD MI300全栈上完成预训练/中期训练/SFT的MoE模型,同日登陆Zyphra Cloud serverless端点并以Apache-2.0开放权重
Zyphra Research:Zyphra 发布 ZAYA1-8B:全 AMD 集群训练的 MoE 模型