分布式训练微批量数据确定方法、装置、设备及介质

本公开提供了一种分布式训练微批量数据确定方法、装置、设备和介质，涉及新兴信息技术领域例如，该方法包括：基于预先确定的微批量数据大小将训练数据集划分为多个训练数据子集，以使计算相应的梯度值；接收预设数量的训练节点返回的梯度值，从各个训练节点中筛选出目标训练节点；判断预设时长内是否接收到目标训练节点返回的满足预设条件的梯度值；将接收到的全部梯度值、接收全部梯度值所耗费的总时长以及各个训练节点的模型性能参数输入至预先训练的神经网络模型，输出各个训练节点更新后的的模型性能参数，最终确定各个训练节点对应的微批量数据大小。本公开能够合理划分训练数据的微批量大小，以保证模型的性能和训练情况。