摘要
本申请涉及一种基于专家混合模型的高效大模型任务处理方法、装置和计算机设备,涉及专家混合模型和大规模语言模型技术领域,方法包括:获取信息处理任务、以及目标信息,并基于信息处理任务,识别各子处理任务的任务处理需求;基于目标信息、以及各子处理任务的任务处理需求,通过各子处理任务对应的边缘设备,处理得到各子处理任务对应的初始迭代处理结果、以及各子处理任务的成本能耗信息,并基于各子处理任务的成本能耗信息,通过性能优化算法,调整各边缘设备的任务处理策略,得到新边缘设备,以替换边缘设备,将初始迭代处理结果,替换目标信息,最后迭代得到信息处理任务对应的目标处理结果。采用本方法能够提升专家模型的处理效率。
技术关键词
信息处理
能耗
语言模型技术
计算机设备
策略
语义特征
算法
计算机程序产品
处理器
可读存储介质
模块
存储器
系统为您推荐了相关专利信息
剪枝模型
大语言模型
权重分配策略
问答方法
文本
网络流量预测方法
网络流量数据
时间序列形式
网络流量控制技术
多层神经网络模型