面向纯文本应用的大语言模型微调训练方法及相关装置

本申请公开了一种面向纯文本应用的大语言模型微调训练方法及相关装置，包括：获取目标垂直领域所对应的垂直领域数据集，以大语言模型微调所需要的数据集格式进行整理；将预训练模型的权重矩阵分解为方向性矩阵和幅度向量并将其量化；在模型微调训练的前向传播过程中使用秩平方根方法，缓解了在矩阵秩较大情况时的梯度崩溃问题，同时调整反向传播过程中的矩阵学习率比率，提升了模型对输入特征变化和输出特征生成任务的适应性；最后计算出损失函数对于矩阵和幅度向量的梯度并分别对其进行更新，得到最终微调模型。本申请在使用较小计算开销的前提下，提升了模型的微调效率和精度，并且该方法可以应用到各种大语言模型及垂直领域中，具有良好的泛化性。