摘要
本申请涉及一种模型运行方法、装置、计算机设备、存储介质和程序产品。方法包括:获取融合算子对应的融合算子计算图,融合算子计算图是用于描述融合算子的计算图,融合算子计算图为神经网络模型的模型计算图中子图;基于融合算子计算图生成融合算子对应的融合算子执行器,融合算子执行器中包含描述对象、策略确定函数及执行函数,描述对象用于描述融合算子;通过策略确定函数从描述对象中确定融合算子的算子信息,基于算子信息从融合算子的多个实现策略中确定目标实现策略;在执行模型计算图以运行神经网络模型的过程中,当执行到融合算子计算图时,调用执行函数执行目标实现策略以实现执行融合算子计算图。采用本方法能够提升模型运行效率。
技术关键词
神经网络模型
执行器
策略
模型运行方法
对象
模版
元素
计算机设备
参数
中子
计算机程序产品
处理器
尺寸
动态更新
可读存储介质
模块
存储器