一种垂直大模型训练方法、装置和设备

本申请提供一种垂直大模型训练方法、装置和设备。本申请提供的方法，包括：获取指定领域相关的第一指令数据集，并利用第一指令数据集对预训练的基础大模型进行微调，得到初始大模型；其中，预训练的基础大模型不限于利用指定领域相关的无监督数据进行预训练；获取指定领域相关的第二指令数据集；针对预设的多个自然语言处理任务中的每个自然语言处理任务，获取每个自然语言处理任务的第三指令数据集；利用第二指令数据集和多个自然语言处理任务的多个第三指令数据集对初始大模型进行微调，得到训练好的垂直大模型。本申请提供的垂直大模型训练方法、装置和设备，能够提升模型的理解、总结和推理能力，提升模型在特定领域的精度。