专家混合模型执行运算任务的加速方法及相关设备

AITNT
正文
推荐专利
专家混合模型执行运算任务的加速方法及相关设备
申请号:CN202510779045
申请日期:2025-06-12
公开号:CN120297430B
公开日期:2025-09-12
类型:发明专利
摘要
本申请属于人工智能芯片加速技术领域,提出了一种专家混合模型执行运算任务的加速方法及相关设备。其中,所述方法包括:获取待处理运算任务,并确定专家混合模型中用于执行待处理运算任务的目标专家网络,专家混合模型中各个第一专家网络的网络参数保存在加速器芯片的片上内存,专家混合模型中各个第二专家网络的网络参数保存在加速器芯片的片外内存;从片上内存中调用目标专家网络中第一专家网络的第一网络参数,以及从片外内存中调用目标专家网络中第二专家网络的第二网络参数;基于第一网络参数和第二网络参数,通过专家混合模型中的目标专家网络执行待处理运算任务。通过本申请提供的技术方案能够提高专家混合模型执行运算任务的加速效率。
技术关键词
网络 加速器 边界扫描测试 内存 参数 矩阵 图形处理芯片 计算机程序产品 人工智能芯片 可读存储介质 建立通信 指令 处理器 加速装置 汉明距离 时分复用 定义
系统为您推荐了相关专利信息
1
基于多模态融合驱动的AI艺术字生成系统及方法
艺术字生成方法 工作流 多模态 生成系统 文本
2
一种基于节点自适应迭代的动态目标避障算法
节点 避障算法 迭代方法 避障路径 列表
3
涂胶系统及方法
分区 涂胶区域 涂胶装置 涂胶系统 图像采集装置
4
一种银政企多级权限控制方法及系统
权限控制方法 网关 意图 策略 场景
5
一种基于全基因组关联研究汇总统计数据的孟德尔随机化因果推断方法
推断方法 效应 估计误差 变量 元素
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号