一种基于大型语言模型的协同推理方法及系统

本发明提供一种基于大型语言模型的协同推理方法及系统，该方法包括：根据预设原子行为库将任务的推理过程行为分解为若干个原子行为；原子行为包括选取模型的类型、推理行为和/或辅助行为；根据若干个原子行为和基于状态的全局原子行为选择策略进行多叉树结构编排，得到原子行为多叉树；基于大型语言模型集合和原子行为多叉树对任务进行协同推理，得到协同推理结果；大型语言模型集合包括与若干个原子行为对应的若干个选取模型。本发明能够自主协同多个大型语言模型完成不同任务的推理，降低了协同推理成本，提升协同效果，实现更高效率和更高性能的推理。