DIAL-OPD通过更少Token实现高效在线策略蒸馏
发生了什么
据arXiv cs.CL论文，研究者提出DIAL-OPD方法，通过选择性地保留高价值Token进行在线策略蒸馏，实现比完整Token监督更高效的学习。该方法通过加权奖励幅度与概率对数均值来平衡抑制低概率Token与保留有用分歧。在数学推理基准测试中，仅保留40% Token即超越Vanilla OPD，平均准确率提升达5.25个百分点，并在AIME25 Pass@16指标上实现翻倍。
- Token保留比例
- 40%
- 平均准确率提升
- 5.25%
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
来源关系与证据边界
按已记录的来源角色展示；连线仅表示原生身份流程确认的同稿入口，不表示独立佐证或跨报道引用。
- 一手材料1 个发布入口