神经网络模型的推理方法及装置

本公开提供一种神经网络模型的推理方法及装置，涉及人工智能技术领域。该方法包括：将神经网络模型的第一图结构在预设的维度切分成多份切片；在每一份切片中插入辅助算子并通过辅助算子将每一份切片链接，得到第二图结构；将所述第二图结构加载到神经网络处理器的运算单元进行推理。本公开提供的神经网络模型的推理方法及装置，先在每一份切片中插入辅助算子并通过辅助算子将每一份切片链接，再将处理后的图结构加载到神经网络处理器的运算单元进行推理，避免了神经网络模型的图结构直接被切分后，切片中的算子映射到运算单元时的重复计算，提高了处理器的计算效率，提升了处理器的性能。