大语言模型价值对齐方法及装置

本申请实施例公开了一种大语言模型价值对齐方法，包括：获取多个问题查询文本及对应的候选答案池；确定候选答案池中各候选答案的奖励得分，生成训练样本数据集；确定各候选答案的回答概率，根据多个候选答案的回答概率及奖励得分计算各问题查询文本的第一奖励期望，根据所有第一奖励期望计算所有问题查询文本的第二奖励期望；根据第二奖励期望及训练样本数据集对大语言模型进行价值对齐调整以对模型参数进行调整，判断是否满足预定收敛条件；若否，则根据调整后的大语言模型生成各问题查询文本的多个新的候选答案，根据多个新的候选答案对候选答案池进行更新，跳转执行确定奖励得分；若是，则生成目标大语言模型，提升了模型价值对齐能力。