摘要
本申请公开了一种稀疏神经网络的矢量近似更新方法及应用,方法包括获取神经网络中待更新的权重参数的精确梯度参数,得到精确梯度信息;为矩阵结构中同行的多个权重参数以及同列的多个权重参数构建相同的更新脉冲;构建操作矩阵变量;基于操作矩阵变量构建梯度矩阵变量;以精确梯度矩阵为梯度矩阵变量的目标,拟合求解操作矩阵变量,得到最优操作矩阵;基于所述最优操作矩阵,更新所述权重矩阵的权重参数。本申请的矢量近似更新方法全程无需对稀疏信息进行外部索引,大大降低了稀疏训练过程中的时间开销和能耗开销;在稀疏神经网络更新过程中具有媲美传统的逐个单元更新的精确更新算法的更新精度和训练效果。
技术关键词
矩阵
稀疏神经网络
更新方法
变量
参数
机器可读存储介质
存储器存储指令
传播算法
模块
脉冲
处理器
电子设备
索引
标签
能耗
指标
误差
系统为您推荐了相关专利信息
动态状态估计
机械臂控制方法
机械臂系统
状态估计量
估计误差
Kriging模型
样本
参数
齿轮轴承
拉丁超立方抽样
动态调度优化方法
流水车间
特征提取网络
决策
工件