基于专家混合模型的高效大模型任务处理方法、装置和计算机设备

AITNT
正文
推荐专利
基于专家混合模型的高效大模型任务处理方法、装置和计算机设备
申请号:CN202511334907
申请日期:2025-09-18
公开号:CN120822626B
公开日期:2025-12-26
类型:发明专利
摘要
本申请涉及一种基于专家混合模型的高效大模型任务处理方法、装置和计算机设备,涉及专家混合模型和大规模语言模型技术领域,方法包括:获取信息处理任务、以及目标信息,并基于信息处理任务,识别各子处理任务的任务处理需求;基于目标信息、以及各子处理任务的任务处理需求,通过各子处理任务对应的边缘设备,处理得到各子处理任务对应的初始迭代处理结果、以及各子处理任务的成本能耗信息,并基于各子处理任务的成本能耗信息,通过性能优化算法,调整各边缘设备的任务处理策略,得到新边缘设备,以替换边缘设备,将初始迭代处理结果,替换目标信息,最后迭代得到信息处理任务对应的目标处理结果。采用本方法能够提升专家模型的处理效率。
技术关键词
信息处理 能耗 语言模型技术 计算机设备 策略 语义特征 算法 计算机程序产品 处理器 可读存储介质 模块 存储器
系统为您推荐了相关专利信息
1
基于联合检测模型的钢板下异质空间脱空探测方法及系统
联合检测模型 热中子 回波 混凝土结构 异质
2
基于小型化大语言模型的文本问答方法及装置
剪枝模型 大语言模型 权重分配策略 问答方法 文本
3
一种识别参赛信息的方法、装置、设备及存储介质
号码 专用识别 颜色 样本 特征提取模块
4
一种图数据处理方法、系统、设备及介质
节点 数据处理方法 基准 粗略 模型训练模块
5
一种基于SndGRU网络模型的网络流量预测方法
网络流量预测方法 网络流量数据 时间序列形式 网络流量控制技术 多层神经网络模型
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号