arXiv提出SMD算法简化扩散模型少步蒸馏

发生了什么

据arXiv cs.LG论文《Simplifying and Improving On-Policy Distillation for Few-Step Diffusion》提出，研究人员开发了Simplified Matching Distillation (SMD)算法，旨在简化并提升扩散模型的少步蒸馏性能。SMD完全基于回归，无需在线分数估计或对抗性训练，也不改变部署生成器。该方法引入Pivot作为训练-only残差代理，分离局部校正与学生区间均值预测，并排斥较弱的教师预测以避免不良模式。在图像生成、编辑、3D生成、视频合成及音视频联合生成等任务中，SMD在4-NFE下表现优于强基线，并在多个基准上超越多步教师模型，支持跨模型、多教师和因果视频蒸馏，可扩展至330亿参数。