大语言模型训练方法和计算机设备

本申请涉及一种大语言模型训练方法和计算机设备。大语言模型训练方法包括：获取种子数据集和安全规则集；种子数据集包括：异常用户提问、与异常用户提问对应的正响应样本以及与异常用户提问对应的负响应样本；基于初始大语言模型，根据种子数据集和安全规则集，得到第一正推理样本和负推理样本；基于第一正推理样本、负推理样本以及种子数据集，构建第一偏好数据对，对初始大语言模型进行训练，得到训练完成的大语言模型。采用本方法能够解决在实际使用的过程中，用户通过提示词引导或外部知识注入的方式要求大语言模型输出有害的内容时，大语言模型会存在无法甄别用户的意图，输出有害内容的情况。