一种利用子图执行引擎进行模型选择的方法及装置

本申请公开了一种利用子图执行引擎进行模型选择的方法，包括：获取待推理任务对应的模型选择策略，该模型选择策略用于选择执行待推理任务的模型，模型选择策略包括至少一个字段和至少一个字段对应的判断条件。根据预先保存于子图执行引擎中的服务之间的依赖关系，确定获得至少一个字段所需执行的目标服务。执行目标服务以得到至少一个字段的值。根据至少一个字段的值和模型选择策略，确定执行待推理任务的目标模型，目标模型为大模型或者小模型。由此可见，本方案能够基于模型选择策略，来确定究竟是采用大模型还是小模型来执行待推理任务，本方案对小模型的输出格式无严格要求，因此，本方案可以为各种场景对应的待推理任务选择对应的模型。