针对分布式系统进行数据均衡的方法及装置

本说明书实施例涉及针对分布式系统进行数据均衡的方法及装置，分布式系统包括多个计算节点，方法包括：首先，获取多条训练数据以及与多个计算节点对应的、初始为空的多个数据桶；然后，对各条训练数据依次进行数据桶的分配操作，分配操作包括：对于任意的目标训练数据，分别计算将其假定放入各个数据桶之后各个数据桶的综合代价，并将其放入综合代价最小的目标数据桶；任意第一数据桶的综合代价为经过数据标准化后的计算代价和空间代价之和；最后，将各个数据桶中的训练数据确定为分配给对应计算节点的训练数据，用于对神经网络模型进行分布式训练。