扩散模型记忆化检测新研究

发生了什么

据arXiv cs.LG报道，研究发现扩散模型的记忆化编码在学习的能量景观几何结构中，早于生成样本中出现。这种状态称为潜在记忆化。通过使用分数散度和盆地体积，发现训练样本周围形成局部盆地，并在第一个记忆化样本出现之前将其与保留样本分开。研究利用循环去噪探测这些盆地，证明在精确经验分数下，从孤立训练样本开始的循环能以高概率恢复并返回该样本。在CelebA和CIFAR-10的检查点上，循环去噪恢复了包含无副本的单次生成样本的训练图像。