混合专家模型的优化方法、装置、设备、介质及程序

本发明实施例公开了一种混合专家模型的优化方法、装置、设备、介质及程序，其中，方法包括：对目标混合专家模型的各项稀疏化的数据结构进行稀疏转换，得到结构化稀疏数据结构；对所述结构化稀疏数据结构进行数据排布优化；结合计算芯片的稀疏计算单元对所述目标混合专家模型的算子进行优化，得到稀疏算子；根据所述稀疏算子对所述目标混合专家模型的原始算子进行更新，得到结构化稀疏的混合专家模型。本发明实施例的技术方案能够实现对混合专家模型的结构化稀疏优化，以充分发挥混合专家模型的稀疏计算硬件在计算稀疏矩阵乘法时的加速性能，进而大大优化稀疏矩阵乘法运算过程中的计算、带宽以及存储资源的开销。