Apple ML Research提出TS-DFM

发生了什么

据Apple ML Research论文介绍，研究提出轨迹形状离散流匹配（TS-DFM）方法，通过能量导航蒸馏实现少步离散流匹配。该方法用轻量级能量指南针评估候选延续性以选择最连贯序列，替代训练中的盲目随机跳跃。在1.7亿参数语言建模中，8步TS-DFM学生模型比1024步教师模型困惑度降低32%，速度提升128倍，并在多种基准测试中取得最佳表现。