arXiv提出CriticOPD改进监督蒸馏
发生了什么
据arXiv cs.LG论文指出，On-policy distillation (OPD) 假设教师模型具备可恢复性，但在学生错误 rollout 时该属性失效。研究提出 CriticOPD，利用错误识别恢复可恢复性，让教师批判错误 rollout 以便学生重写解决方案。在两个 Qwen3 学生和六个数学推理基准上的实验显示，CriticOPD 改进了 OPD，在竞赛问题上提升最大。
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
来源关系与证据边界
按已记录的来源角色展示；连线仅表示原生身份流程确认的同稿入口，不表示独立佐证或跨报道引用。
- 一手材料1 个发布入口