一种全局模型的并行训练方法、装置、设备、介质和产品

本发明公开了一种全局模型的并行训练方法、装置、设备、介质和产品，对各个计算节点进行分组，得到若干个计算小组；采用异步策略对每一所述计算小组内的计算节点进行训练，以更新每一所述计算小组对应的局部模型；在所有所述计算小组中确定落后小组，并加入落后组群中；当所述落后组群中的落后小组的数量达到预设的第一阈值时，分别计算每一所述落后小组的训练精度，并计算所述落后组群的训练精度均值，记为第一训练精度均值；根据训练精度超过所述第一训练精度均值的落后小组和其他非落后小组的局部模型参数，对全局模型的模型参数进行更新。采用本发明，改进了全局模型的参数更新条件和更新手段，实现模型训练精度和模型更新间隔之间的平衡。