一种基于蒙特卡洛树搜索的大模型自适应推理方法

本发明涉及一种基于蒙特卡洛树搜索的大模型自适应推理方法，步骤如下：采用树状结构组织大语言模型的推理过程；使用UCT算法选择待扩展的节点；在扩展新节点时，针对当前选择的节点使用当前推理路径上的所有信息生成下一步推理步骤；执行模拟，基于已有推理步骤继续推理直至得到最终答案，并判断最终答案是否正确；根据正确的最终答案进行反向传播，对当前推理路径上的节点进行奖励更新后，将生成新节点之前的树结构作为提示词，根据提示词生成的节点作为生成数据；依据生成数据对所述大模型进行微调；使用PPO算法对大模型进行强化学习。本发明可以根据当前推理状态自行选择父节点并向节点中添加新的推理节点，最终生成一个较为准确合理的答案。