基于零样本难度感知的大语言模型路由方法、装置和设备

本公开属于人工智能技术领域，具体涉及一种基于零样本难度感知的大语言模型路由方法、装置和设备。其中所述方法包括：基于样本数据分别确定候选大语言模型的性能和成本与难度的关系，其中，所述样本数据为对预设数据集采样生成，所述数据集中的数据是预校准难度的查询提示词，所述难度由所述查询提示词的文本属性确定；获取查询提示词，预测所述查询提示词的难度；基于所述查询提示词的难度估计各个所述候选大语言模型的成本及性能，基于所述成本及性能从所述候选大语言模型中确定处理所述查询提示词的大语言模型。