请求处理方法

本申请公开了一种请求处理方法，所述方法包括：响应于接收到第一客户端发送的推理请求，获取与目标模型对应的映射实例表，其中，所述推理请求用于请求所述目标模型执行推理任务，所述映射实例表包括所述目标模型与至少一个第一候选服务实例的对应关系；从所述映射实例表中选择目标服务实例，并将所述推理请求转发至所述目标服务实例；响应于接收到所述目标服务实例针对所述推理请求返回的推理结果，将所述推理结果发送至所述第一客户端。