语言模型训练方法、设备、存储介质以及产品

本申请公开了一种语言模型训练方法、设备、存储介质以及产品，涉及自然语言处理技术领域，方法包括：获取公开文本数据，将所述公开文本数据输入到所述文本组成单元选择模型，确定出所述公开文本数据中多个文本组成单元位置各自对应的第一文本组成单元；将各所述第一文本组成单元，发送至各所述第二设备，以供所述第二设备根据各所述第一文本组成单元进行词表映射，得到各自对应的第二文本组成单元；联合各所述第二设备根据各所述第一文本组成单元和各所述第二文本组成单元，优化所述大语言模型和所述小语言模型，获得训练完成的大语言模型。通过选择文本组成单元来优化模型自然语言处理能力的训练过程，以提高大语言模型的模型处理能力。