摘要
本公开实施例是关于一种分布式模型训练方法及装置、计算机程序产品、电子设备,涉及计算机技术领域,该方法包括:基于阶段分区网络将机器学习模型划分为多个阶段,并将每个阶段划分为多个副本;通过阶段调度网络,将每个阶段的多个副本调度至多维网络,以对所述机器学习模型进行分布式训练。本公开能够提高网络利用率,提高训练效果。
技术关键词
分布式模型
深度神经网络模型
机器学习模型
阶段
副本
分布式训练
分区
贪婪算法
计算机程序产品
电子设备
物联网设备
处理器
训练装置
参数
动态
指令
模块
存储器
系统为您推荐了相关专利信息
地震易损性分析方法
变电站电力设备
判断保护装置
预测电力系统
表达式
暖通空调节能
减排方法
强化学习模型
注意力机制
序列
残差模块
注意力机制
狭窄评估
曲面重建算法
血管
风速预测方法
青蒿素
风速预测模型
动态控制参数
网络
PID控制算法
儿童
数学模型
pH控制器
pH值