一种基于异构集群的模型训练方法、装置及电子设备

本申请提供一种基于异构集群的模型训练方法、装置及电子设备，获得异构集群的各GPU的算力资源及GPU拓扑结构图；接收到待执行训练任务后选择算力资源满足待执行训练任务所需的算力资源的备选池作为预选池，从预选池中选择算力评估值满足预设要求的调度池以利用调度池的各GPU完成训练任务。预选池的算力评估值基于预选池的负载均衡度、资源碎片率及拓扑结构得分确定，负载均衡度及资源碎片率基于预选池中的GPU的算力资源确定，拓扑结构得分基于预选池的拓扑结构中各GPU间的传输路径的长度确定。利用算力资源衡量GPU的算力能力，结合负载均衡度、资源碎片率及预选池的拓扑结构选择调度池完成训练任务，充分发挥异构集群的能力。