Answer.AI 发布 ModernBERT-Large-Instruct：编码器模型实现零样本生成式分类
TIL: Masked Language Models Are Surprisingly Capable Zero-Shot Learners
AI 导读Answer.AI 推出 ModernBERT-Large-Instruct，通过简单的指令微调使 BERT 类编码器利用 MLM 头进行零样本分类和多项选择任务。该模型无需架构改动或复杂管道，在 MMLU-Pro 上超越 Qwen2.5-0.5B 等亚十亿参数模型，接近 Llama3-1B 性能，且在 NLU 任务中匹配传统微调效果。模型已开源至 HuggingFace，支持单前向传播推理，显著降低计算成本。
来源：Answer.AI 官方研发博客 · answer.ai
事件后续1
查看事件全部- Answer.AI 发布 ModernBERT：替代 BERT 的新一代编码器模型Answer.AI 官方研发博客 · 12 月 19 日