大模型部署方法及其装置

本发明提供了一种大模型部署方法及其装置。该方法包括：接收在第N次问答交互时用户输入的待解答问题；基于第一大模型集中每个大模型回答问题的预估准确度，从第一大模型集中筛选K个大模型，得到第二大模型集；在确定缓存中不存在待解答问题，或缓存中存在待解答问题且与待解答问题对应的答案不满足用户需求时，基于调用第二大模型集中大模型各自回答问题时所需消耗的预估资源，对第二大模型集中每个大模型进行排序，得到第三大模型集；按照排序从第三大模型集中依次确定目标大模型，直至目标答案满足用户的需求或第三大模型集中K个大模型输出的目标答案均不满足用户的需求时，停止从第三大模型集中确定目标大模型，完成第N次问答交互。