摘要
一种深度学习模型的并行执行方法,包括:将与深度学习模型相关的计算任务表示为计算图数据;其中,所述计算图数据为所述深度学习编译器支持的中间表示形式所表示出的计算图数据;获取基于所述中间表示形式所表示出的与所述计算任务对应的并行计算方式,并基于所述并行计算方式将所述计算图数据编译成与所述计算集群中的各个计算节点对应的并行任务执行码;将与所述各个计算节点对应的并行任务执行码分别调度至所述计算集群中的各个计算节点,由所述各个计算节点并行的执行所述并行任务执行码。
技术关键词
深度学习模型
节点
集群
数据通信
并行执行方法
深度学习框架
并行策略
生成流水线
处理器
计算机程序产品
算法
计算机设备
定义
可读存储介质
存储器
模块