大模型推理方法、装置、设备、存储介质及计算机程序产品

本申请公开了一种大模型推理方法、装置、设备、存储介质及计算机程序产品，涉及数据处理技术领域，该方法包括：基于高质量样本数据集生成待推理任务对应的若干个高质量思维链，高质量样本数据集为存在符合预设高质量条件的思维链的数据集；确定高质量思维链中的最优思维链数据；对最优思维链数据进行思维链删减，获得目标思维链；通过大语言模型基于目标思维链输出待推理任务对应的推理结果。本发明可以对待推理任务对应的高质量思维链中的最优思维链数据进行删减，然后通过大语言模型基于删减后获得的目标思维链进行模型推理，从而解决了现有技术中大语言模型基于长度过长的思维链进行推理时，会导致推理成本增加的技术问题。