梯度信息的存储方法、装置、电子设备、存储介质

本发明实施例公开了一种梯度信息的存储方法、装置、电子设备、存储介质。方法包括：获取用于存储神经网络模型的梯度信息的目标显存空间所对应的第一容量信息；获取所述神经网络模型的各组梯度信息各自对应的显存大小信息，每组梯度信息与神经网络模型的唯一计算节点对应；根据第一容量信息以及各组梯度信息各自对应的显存大小信息，将神经网络模型中待保留的梯度信息存储在目标显存空间中并将除待保留的梯度信息以外的梯度信息删除，其中，待保留的梯度信息所占用的显存大小小于或等于目标显存空间的存储容量。这种方案可以根据显存空间的存储容量自适应地保留在训练神经网络模型过程中生成的梯度信息。