行业大模型的内容安全能力构建方法、装置、设备及介质

本申请公开了行业大模型的内容安全能力构建方法、装置、设备及介质，涉及人工智能技术领域，包括：基于预设数据拉取频率拉取行业大模型的生产环境中的用户交互数据；调用预设超大规模模型对待判别提问数据进行风险判别，以根据判别结果确定是否存在被误判的目标提问数据；若存在，则对目标提问数据的数据标签进行修正，并基于修正后数据和预设超大规模模型扩充原始数据集，以便利用扩充后数据集对安全模型进行迭代训练，并将预设超大规模模型的知识迁移至安全模型中；基于用户反馈数据以及预设超大规模模型构建偏好对数据集，并对行业大模型进行价值对齐训练，以控制行业大模型的生成内容满足预设价值观念。