一种基于动态约束强化学习的大模型安全对齐方法

本申请提供一种基于动态约束强化学习的大模型安全对齐方法，所述方法包括：构建对话偏好数据集；基于所述对话偏好数据集分别对初始奖励模型和初始成本模型进行训练，得到训练好的奖励模型和训练好的成本模型；基于所述训练好的奖励模型和所述训练好的成本模型生成第一微调策略和第二微调策略；根据所述第一微调策略和/或第二微调策略对所述初始大语言模型进行更新，得到更新后的大语言模型。本申请通过构建好的对话偏好数据集分别对奖励模型和成本模型进行训练，通过训练好的奖励模型和成本模型生成第一微调策略和第二微调策略，从而对大语言模型进行更新，提高了大语言模型在安全性和有用性之间的平衡性。