模型推理方法、装置、网络设备、可读存储介质和程序产品

本申请涉及一种模型推理方法、装置、网络设备、可读存储介质和程序产品，涉及无线通信及人工智能技术领域。本申请能够提升模型推理的效率。方法：无线智能管理与编排功能层可以通过智能无线接入网络的接入节点获取终端的模型推理需求信息，根据模型推理需求信息和智能无线接入网络的资源状态信息确定模型推理任务的执行方，执行方可以包括云端、智能无线接入网络的节点或终端；无线智能管理与编排功能层可以触发执行方利用目标模型执行模型推理任务，使终端获得目标推理结果，目标模型由云端根据模型推理需求信息从大模型蒸馏得到，目标推理结果为满足无线智能管理与编排功能层的验证条件的推理结果。