模型显式学习位置信息的训练方法、装置、设备及介质

本发明公开了一种模型显式学习位置信息的训练方法、装置、设备及介质。所述方法应用于大模型，所述方法包括：将训练样本进行分词转换获取每个最小训练单元所对应的训练编号；将所述训练编号输入至预设深度学习模型进行模型推理获取每个所述训练编号的向量特征；通过预设激活函数将所述向量特征进行预测处理获取每个预设位置的绝对位置预测概率、相对位置预测概率以及下一训练编号的预测概率；根据自回归损失函数将所述绝对位置预测概率、所述相对位置预测概率以及所述下一训练编号的预测概率的预测结果进行训练优化。通过实施本发明的方法可解决现有技术中大模型无法有效学习位置信息的问题。