摘要
本发明公开了一种面向异构计算集群的分布式学习任务调度方法与系统,方案中:对于分布式学习训练任务,设计出满足的分布式学习任务特点的调度目标函数,其综合考虑调度方案的计算性能,通信开销以及资源利用率,以满足分布式学习不同任务特点之间的平衡调度,同时在跨节点调度时,基于对应的解搜索空间大小选择合适的调度策略,综合考虑调度过程中分配方案的搜索开销以及分配方案的具体评分,最终实现在满足分布式学习任务特点的前提下以较小的搜索开销获得最佳的调度方案,进而实现分布式学习任务加速的效果。
技术关键词
分布式学习
面向异构计算
任务调度方法
深度优先搜索
启发式算法
贪心思想
跨节点
集群
集中度
策略
多线程
任务调度系统
资源
处理器
符号
可读存储介质
程序
存储器
因子
系统为您推荐了相关专利信息
初始同步方法
多输入多输出
标识符
分区
物理小区标识
动态任务调度方法
运输系统
任务调度框架
任务调度策略
动态调度算法
多智能体强化学习
策略
分层注意力
多维特征向量
时序
启发式方法
信息数据处理终端
策略
视野
搜索模块