一种基于智能计算中心算力的大语言模型推理方法及装置

本申请涉及算力基础设施技术领域，提供一种基于智能计算中心算力的大语言模型推理方法及装置，包括：基于待推理任务确定对应的检查清单；将待推理任务输入至大语言模型中得到当前推理结果；步骤S3：将检查清单、当前推理结果以及待推理任务输入至大语言模型中，得到当前检查结果，步骤S4：若存在至少一项子检查结果为当前推理结果与检查项不匹配，则将待推理任务、当前检查结果输入至大语言模型中，重新生成当前推理结果；重复执行步骤S3和步骤S4，直至当前检查结果中的每一子检查结果均为当前推理结果与检查项匹配；将与每一检查项均匹配的当前推理结果作为大语言模型的目标输出。由此，可以提升大语言模型推理的准确性和有效性。