提出扩散语言模型表征空间MMD方法

发生了什么

研究人员提出一种针对扩散语言模型（DLMs）的后训练方法，通过在冻结的预训练DLM特征空间中最小化生成分布与参考分布之间的最大均值差异（MMD）来优化模型。该方法对离散模型使用策略梯度，对连续模型使用直接微分，无需完整采样轨迹或联合训练辅助模型。实验显示，该方法在OpenWebText上降低了生成困惑度，在GSM8K上改善了精度与计算权衡；在16B DMax-LLaDA2.0模型上，该方法在保持或提高数学和代码基准测试精度的同时，增加了解码并行度。