一种大模型推理方法及基于大模型的推理设备

本公开提供了一种大模型推理方法及基于大模型的推理设备，所述方法包括：通过大模型对问题信息进行推理得到第一基础响应；基于对所述第一基础响应进行评估获得的第一评估信息，推理得到所述问题信息对应的第一反思响应；基于所述问题信息对应的进阶信息，确定所述第一基础响应和所述第一反思响应中的第一目标响应；其中，所述进阶信息表征跨任务的推理思想；基于所述第一目标响应确定所述问题信息对应的反馈信息。