一种用于AI模型训练的分布式调度训练方法

本发明涉及人工智能训练技术领域，属于一种用于AI模型训练的分布式调度训练方法，包括API网关、资源监控模块、动态调度模块、节点训练模块以及结果保存和容错处理模块。本发明能够实现模型训练的动态资源感知，动态分配训练节点，模型分片能够根据节点负载动态调整分片策略，聚合算法能够减少通信开销，特别是异构环境下的处理，两者的结合实现更高效的训练，支持动态节点的添加和移除。并且能够修正网络较差导致的节点处理的分片数量偏差，抑制模型分片引发的更新不一致，支持弹性扩缩容的无缝衔接节点故障导致的训练失败能够自动调度其他节点继续训练。