基于混合专家架构的分布式推理方法、装置、设备及介质

本发明涉及人工智能领域，提供一种基于混合专家架构的分布式推理方法、装置、设备及介质，应用于边缘算力网关的基于混合专家架构的分布式推理方法包括：若接收到推理任务，确定参与所述推理任务的多个目标智能车辆；获取专家推理模型，并将所述专家推理模型部署到各所述目标智能车辆中；其中，所述专家推理模型包括多个专家推理模块，各所述目标智能车辆中部署至少一个所述专家推理模块；将所述推理任务发送至各所述目标智能车辆，以使各所述目标智能车辆基于所述专家推理模块执行所述推理任务，得到推理结果；聚合各所述目标智能车辆的推理结果，得到目标推理结果。通过本发明提供的技术方案，充分利用闲置智能车辆的算力资源。