摘要
本发明公布了一种针对量化神经网络的异构加速器计算调度建模与优化方法,包括基于量化算法的抽象描述过程,对量化算法通过迭代的方式建立量化抽象,量化算子的表示包括深度神经网络模型的线性层算子结构得到的张量表达式和量化算法抽象;量化计算流水线生成和优化过程,量化流水线在异构加速器上的循环树调度建模过程,基于遗传算法的循环树调度优化过程。采用本发明提供的技术方案,对单一量化算法或复合量化算法均可生成高效的计算流程,并自动转化为其在加速器上的高效调度表示,能够最小化异构加速器硬件的计算延迟,提升加速器计算效能。
技术关键词
异构加速器
流水线
遗传算法
深度神经网络模型
矩阵乘法运算
表达式
语句
内存
层级
数据存储空间
分块
节点
数据访问
线性
效能
文本
策略
系统为您推荐了相关专利信息
交通流分配方法
路段交通量
拉格朗日乘子法
矩阵
粒子群算法求解
电磁式换能器
分布参数模型
永磁体单元
励磁回路
并行遗传算法
负荷预测模型
负荷预测方法
多头注意力机制
评估预测模型
居住建筑