基于纠删码的流水线并行容错方法和相关装置

本发明公开了一种基于纠删码的流水线并行容错方法和相关装置；属于深度学习技术领域。该方法首先在训练开始前采用双重编码策略初始化冗余块，然后，在all‑reduce操作前更新冗余块参数，保证冗余块和模型参数同步更新，从而在发生故障后恢复；最后，在发生节点失效时，基于现有节点的数据块与冗余块执行恢复流程，通过现有的数据块和冗余块恢复完整的模型参数，该方法能够解决流水线并行与纠删码结合带来的问题，以实现低冗余存储开销和高恢复效率的流水线并行训练容错策略。