结合人类偏好与可验证正确性信号的可靠奖励评价方法及装置

本申请提供一种结合人类偏好与可验证正确性信号的可靠奖励评价方法及装置，涉及人工智能技术领域，该方法包括：将待评价模型响应分别输入到基础奖励模型和可验证正确性信号奖励模型中，得到每个模型输出的奖励评分；基于每个模型输出的奖励评分以及每个模型的权重进行加权求和，得到针对待评价模型响应的最终奖励评分；基础奖励模型用于表征人类对模型响应的偏好评分；可验证正确性信号奖励模型用于表征模型响应在特定方面的正确性。本申请提供的结合人类偏好与可验证正确性信号的可靠奖励评价方法，不仅能够考虑人类偏好，还能综合考虑模型响应的事实性和指令遵循等可验证的正确性信号，从而提供更准确、可靠的奖励。