摘要
本公开提供了一种神经网络训练、数据处理方法及相关设备,所述神经网络训练方法包括:从预设的多个反向传播策略中,确定目标反向传播策略;对于所述神经网络训练中的任一次迭代,根据所述目标反向传播策略,确定本次迭代中梯度更新的目标反向传播路径,所述目标反向传播路径包括所有反向传播路径中的部分传播路径;通过前向传播及基于所述目标反向传播路径的反向传播,对所述神经网络的参数进行梯度更新,得到本次迭代的神经网络。根据本公开的实施例能够减少神经网络训练过程中的缓存数据量及训练计算量。
技术关键词
神经网络训练方法
策略
数据处理方法
神经网络训练装置
节点
序列
样本
数据处理装置
数据获取模块
数据处理模块
文本
处理器通信
语音
参数
视频
可读存储介质
系统为您推荐了相关专利信息
Dijkstra算法
高压架空线路
路径规划系统
无人机
拆除方法
回收系统
火箭发动机
智能控制模块
负压吸附装置
调控策略
大语言模型
答案
惩罚策略
非暂态计算机可读存储介质
生成工具