arXiv论文提出生物启发激活函数HAND

发生了什么

据arXiv cs.LG论文《HAND: A Biologically-Inspired Activation Function...》显示，研究者提出一种名为HAND（Homeostasis, Accelerating Nonlinearity, and Divisive-normalisation）的生物启发激活函数。该函数旨在通过引入生物启发的归纳偏置，提升CNN在图像分类任务中的泛化能力与样本效率。实验表明，使用HAND的ConvNeXt-tiny模型在ImageNet1k上仅需25个训练周期即可达到未修改模型200周期的精度，显著减少了对训练数据量和多样性的依赖。