摘要
本发明公开了一种基于自适应梯度的脉冲神经网络训练方法,首先构建采用LIF模型神经元的待训练脉冲神经网络,将数据集样本分批次输入待训练脉冲神经网络;然后获取待训练脉冲神经网络中每一层所有神经元的突触前输入和每一层所有神经元的膜电位,通过关联函数将代理梯度的宽度与膜电位的统计特性相关联,自适应调整每一层代理梯度的宽度;最后计算脉冲神经网络输出层与样本标签的交叉熵损失,进行梯度反向传播,更新突触权重。本发明有效地缓解了因代理梯度函数宽度固定而导致的梯度消失或者不匹配问题,网络单次推理需要消耗的能量少,所训练的网络具有优异的分类性能。
技术关键词
神经网络训练方法
脉冲
样本
标签
通道
参数
数据
因子
系统为您推荐了相关专利信息
宽厚板四辊轧机
坯料
参数
图像处理算法
机器学习算法