Apple 研究：Embarrassingly Simple Self-Distillation 提升代码生成能力
Embarrassingly Simple Self-Distillation Improves Code Generation
AI 导读Apple 机器学习研究提出一种极简的自我知识蒸馏方法，让大语言模型仅使用自身原始输出即可提升代码生成能力，无需验证器、教师模型或额外数据。该方法在多个代码生成基准上取得显著改进，且计算成本极低。研究展示了自我蒸馏在代码任务中的有效性，为模型自我改进提供了新思路。
来源：Apple Machine Learning Research · machinelearning.apple.com