Boosting Data Augmentation with Stochastic Weight Averaging
本文提出将随机权重平均（SWA）应用于分类任务，作为无需重复训练运行的集成技术替代方案。研究通过以奥恩斯坦 - 乌伦贝克过程近似训练末尾的随机轨迹来分析 SWA，并证明在无限宽度极限下，基于增强数据的 SWA 提供了超越单纯性能提升预期的协变性增强效果。该结论已通过涵盖图像和图分类、包含离散与连续对称性的多种模型的广泛数值实验得到验证。
摘要由 AI 生成
2026 年 9 月 7 日，arXiv cs.LG 发布研究指出，通过引入随机权重平均（Stochastic Weight Averaging, SWA）策略可显著提升数据增强的性能。该研究提出将模型在训练过程中的多个权重平均值作为最终预测模型，而非仅采用最后一步的权重。实验表明，该方法能有效缓解过拟合问题，提高模型泛化能力，尤其适用于小样本场景下的数据增强任务。
相关事件RELATED EVENTS
关键实体KEY ENTITIES
arXiv
信号强度SIGNALS
关键词热度