摘要
本发明提出一种权重反量化矩阵乘法模块与相关设备,通用矩阵乘法单元用于向直接内存访问单元发送读取控制信息;直接内存访问单元用于根据读取控制信息生成对应的读请求,将读请求发送给片外存储器,并接收片外存储器反馈的目标数据,目标数据至少包括目标权重数据,目标权重数据为量化后的权重矩阵中同时与目标行标识、目标列标识匹配的权重数据;直接内存访问单元用于对目标权重数据进行反量化处理,并将反量化后的权重数据提供给通用矩阵乘法单元。由直接内存访问单元完成反量化处理,并将反量化后的权重数据提供给通用矩阵乘法单元,不需要经过全局缓存,不会占用全局缓存的访存带宽,避免产生额外且不必要的功耗。
技术关键词
反量化装置
因子
数据
矩阵
神经网络处理器
标识
乘法器
内存
模式
转换器
输入端
模块
参数
输出端
矫正
格式
电子设备
通道
功耗
系统为您推荐了相关专利信息
轨迹规划方法
采样点
邻域
线性化方法
轨迹规划装置
劳保用品
深度Q网络
深度强化学习算法
天然气站场
生成作业
文化推广系统
循环神经网络模型
生成器网络
线性回归模型
数据交互接口