ACM ICAIF '26研究：事后自蒸馏通用反馈线效果

发生了什么

据ACM ICAIF '26发表的研究，在针对GPT-OSS-20B模型的多步金融推理事后自蒸馏中，使用固定通用反馈线可达到与自写批评相当的性能增益，约提升3个百分点。研究指出，来自6倍规模模型的批评并未显著改善表现，表明事后蒸馏提供的定位信息降低了有效训练所需的特权信息需求。此外，Fin-SD方法在匹配全参考解决方案的OPSD时，Token消耗减少了9.5%。