推理计算方法及相关设备

本申请公开了一种推理计算方法及相关设备，涉及人工智能技术领域，包括：响应于推理计算指令，获取待推理的目标数据与预设多领域专家大模型，其中，所述预设多领域专家大模型的MOE层包括门控和多个专家，每个专家对应不同的领域，所述门控用于调用专家执行推理任务，基于所述门控，确定所述目标数据对应的目标专家，基于所述目标专家，对所述目标数据进行推理计算，得到推理计算结果。本申请将多个不同领域的专家大模型的专家都放到同一模型的MOE层，使用门控判断每次推理时需要的目标专家，根据目标专家控制门，以调用目标专家对应的推理层进行推理，实现一个大模型处理不同领域的推理任务，降低模型部署工作的复杂性。