Mistral与NVIDIA联合发布12B模型Mistral NeMo

先了解这件事

Mistral AI 与 NVIDIA 联合发布 12B 模型 Mistral NeMo，支持最高 128k tokens 上下文窗口，base 与 instruct 权重以 Apache 2.0 许可开源。

据 Mistral AI 称，该模型在训练中引入量化感知，可在 FP8 推理下不损失性能。