研究提出扩散Transformer的聚合器-预测器视角

发生了什么

据arXiv cs.CV发布，研究提出扩散Transformer（DiTs）的聚合器-预测器视角，揭示注意力与MLP在图像去噪中的功能角色。研究建立GMRF先验下全局贝叶斯去噪器可用子集上下文块近似，误差随上下文半径指数衰减。AdaLN调制注意力参数化输入和噪声依赖的聚合器，MLP为token级块预测提供学习键值表示。实验显示DiTs在真实图像上噪声依赖去噪上下文与解析GMRF设置相似，注意力质量呈对应扩展模式。CelebA64控制研究显示，共享内存块预测器替代DiT MLP实现竞争性去噪和生成性能。