摘要
本公开提供了任务调度方法、装置、电子设备、存储介质及程序产品,涉及人工智能技术领域,尤其涉及分布式数据处理、深度学习和大模型技术领域。该方法包括:获取用于模型训练的调度策略,调度策略用于基于交错式流水线机制分配到多个计算单元的多个计算任务,多个计算任务依次分配有执行时间区间;从与相同的批次数据相关的至少一个计算任务中,确定指定前向计算任务和目标反向计算任务,目标反向计算任务与指定前向计算任务之间的执行时间区间的间隔数目满足预设条件;调整目标反向计算任务的执行时间区间,直至调整后的间隔数目小于预设数目阈值,得到目标调度策略;以及基于目标调度策略调度计算单元执行计算任务。
技术关键词
策略
任务调度方法
子模块
分布式数据处理
任务调度装置
流水线
电子设备
人工智能技术
基准
计算机程序产品
注意力
处理器通信
机制
指令
可读存储介质
文本
系统为您推荐了相关专利信息
精度测试方法
飞行控制参数
传感器误差
环境模拟系统
电磁干扰环境
混合整数线性规划模型
时间序列模型
数据挖掘算法
深度强化学习模型
负荷预测模型
患者健康数据
管理方法
强化学习算法
风险
语义角色标注
热压控制方法
柔性线路板
热传导
反射率数据
热流传感器