模型性能优化方法、电子设备、存储介质和程序产品

本发明涉及人工智能技术领域，提供一种模型性能优化方法、电子设备、存储介质和程序产品，其中方法包括：基于模型结构，获取每个模型层对应的计算操作以及模型层之间的通信操作；将所有计算操作和通信操作组织成多个计算通信并行单元，每个单元包括第一矩阵乘累加操作、融合归约操作和第二矩阵乘累加操作；在每个单元内，对输入数据进行切分，以使第一矩阵乘累加操作、融合归约操作和第二矩阵乘累加操作基于不同的数据块并行执行。本发明通过将所有计算操作和通信操作组织成多个计算通信并行单元，并在每个单元内对数据进行切分，实现了计算操作与通信操作的并行执行，提高了并行度以及计算资源和硬件资源的利用率，从而显著提升了模型性能。