用于自然语言处理任务的模型推理方法及装置、存储介质、芯片、计算机程序产品

一种用于自然语言处理任务的模型推理方法及装置、存储介质、芯片、计算机程序产品，方法包括：获取包含多个依次连接的第一子网络的初始模型，各第一子网络的网络结构一致且参数一致，上一第一子网络的输出数据是当前第一子网络的输入数据的至少一部分；采用任一第一子网络作为目标网络，并基于目标网络构建目标自然语言处理模型；基于目标自然语言处理模型及预先分配的第一目标存储空间执行多轮迭代操作；在每轮迭代中，采用目标网络上一轮的输出数据对第一目标存储空间中的数据进行更新，基于更新后数据确定当前轮的输入数据并输入目标网络，得到目标网络当前轮的输出数据，直至满足迭代终止条件时确定推理结果。上述方案可以提高模型推理性能。