基于蒙特卡洛树搜索的大模型推理系统、方法及设备

本发明提供了基于蒙特卡洛树搜索的大模型推理系统、方法及设备，涉及数据处理技术领域。本发明提出的一种基于蒙特卡洛树搜索的大模型推理系统，针对不同任务进行自适应任务拆解，得到候选思维卡片，将每个候选思维卡片对应的最优有效推理路径作为一个显式的思维链式指导信号，通过大模型针对待推理问题进行推理，并通过两个模型间的协同操作，实现高效推理。该系统有望提升大模型在复杂推理任务中的性能，克服当前模型在数学和逻辑和常识推理方面的局限性。