摘要
本公开提供了基于神经网络模型的分布式运行方法及相关装置,涉及计算机技术领域,尤其涉及人工智能、深度学习、机器学习、分布式训练等技术领域。具体实现方案为:解析神经网络模型的代码,以构建所述神经网络模型对应的算子拓扑图;基于所述算子拓扑图和预设的资源约束条件,生成所述神经网络模型的分布式运行策略;基于所述分布式运行策略修改所述神经网络模型的代码,得到目标代码;所述目标代码用于在所述资源约束对应的计算设备上基于所述分布式运行策略运行所述神经网络模型。
技术关键词
神经网络模型
拓扑图
资源约束条件
分布式运行方法
模式
策略
节点依赖关系
分布式训练
元素
计算机程序产品
处理器通信
通信量
指令
依序
可读存储介质
存储器