回声状态网络中的分形与混沌激活函数：拓扑预处理决定了回声状态的特性

研究人员通过对 36,610 个水库配置的参数扫描，系统研究了混沌、随机及分形（如康托尔）等非光滑激活函数在回声状态网络中的表现。研究发现，相较于传统平滑激活函数（如 tanh 和 ReLU），这些非光滑函数不仅能保持回声状态属性（ESP），且在收敛速度和谱半径容限方面表现更优；具体而言，康托尔函数在特定参数下比 tanh 和 ReLU 快 2.6 倍。研究提出了量化激活函数退化回声状态属性的理论框架，并证明了该属性蕴含传统 ESP，同时建立了基于临界拥挤比的失效预测模型。分析表明，预处理拓扑结构而非函数的连续性是决定网络稳定性的关键因素：单调压缩型预处理可跨尺度维持 ESP，而发散或间断预处理则会导致性能急剧下降。