多模态混合专家模型训练及任务数据处理方法和装置

本公开提供了多模态混合专家模型训练及任务数据处理方法和装置，涉及深度学习、大模型以及自然语言处理等人工智能领域。其中的多模态混合专家模型训练方法可包括：获取多模态的原始训练数据；对原始训练数据进行数据优化处理，得到多模态混合专家模型对应的目标训练数据；根据目标训练数据，采用预定并行方式对多模态混合专家模型进行训练，所述预定并行方式包括：数据并行方式和模型并行方式。