一种在边缘算力网络中低成本部署混合专家大模型的方法

本发明隶属新一代信息技术领域，具体地说，是一种在边缘算力网络中低成本部署混合专家大模型的方法，包括以下步骤：一、问题定义与初始化；二、首个专家模型部署方法；包括成本计算及首个专家模型部署操作；三、后续专家模型部署方法；包括已部署节点集更新、成本更新、后续专家模型部署及路由操作；四、重复与终止；五、输出。本发明通过降低单次专家模型的平均部署成本，实现了降本增效的目标，为大模型服务供应商提供了资源节约且效益更高的混合专家模型在边缘计算网络中的部署方案。