一种多语言大模型训练方法、装置及相关设备

本发明公开了一种多语言大模型训练方法、装置及相关设备，所述方法包括：获取平行语料数据，并基于子任务类型对其进行格式转换，得到与多个子任务类型对应的数据格式；将平行语料数据和数据格式输入初始多语言大模型，该模型包括子网络层，子网络层与子任务类型一一对应；计算每个子网络层的损失τ；根据每个子网络层的损失τ，计算全局损失L；利用该L对模型进行更新，得到更新后的多语言大模型。采用本发明可以提高平行语料数据的利用效率，并在不影响多语言大模型的能力的基础上提高其对低资源语种的理解能力。