流水线并行训练的性能预测方法及装置

本说明书实施例披露一种流水线并行训练的性能预测方法及装置。该方法包括：首先，基于对目标模型在多个训练设备中进行流水线并行训练的策略参数配置，确定待执行的多个指令以及其中各指令的前置指令集合；其中指令指示对微批次数据进行的训练相关的处理操作，各指令的索引包括训练设备ID、微批次ID和指令类型；接着，利用训练好的对应多个指令类型的多个耗时预测器，确定所述各指令的耗时预测值；然后，基于所述各指令的耗时预测值和前置指令集合，确定对所述多个指令进行流水线并行执行的总耗时预测值。如此，可以实现高效、精准和低延迟的性能预测。