一种权重反量化矩阵乘法模块与相关设备

AITNT
正文
推荐专利
一种权重反量化矩阵乘法模块与相关设备
申请号:CN202511484665
申请日期:2025-10-17
公开号:CN120950815A
公开日期:2025-11-14
类型:发明专利
摘要
本发明提出一种权重反量化矩阵乘法模块与相关设备,通用矩阵乘法单元用于向直接内存访问单元发送读取控制信息;直接内存访问单元用于根据读取控制信息生成对应的读请求,将读请求发送给片外存储器,并接收片外存储器反馈的目标数据,目标数据至少包括目标权重数据,目标权重数据为量化后的权重矩阵中同时与目标行标识、目标列标识匹配的权重数据;直接内存访问单元用于对目标权重数据进行反量化处理,并将反量化后的权重数据提供给通用矩阵乘法单元。由直接内存访问单元完成反量化处理,并将反量化后的权重数据提供给通用矩阵乘法单元,不需要经过全局缓存,不会占用全局缓存的访存带宽,避免产生额外且不必要的功耗。
技术关键词
反量化装置 因子 数据 矩阵 神经网络处理器 标识 乘法器 内存 模式 转换器 输入端 模块 参数 输出端 矫正 格式 电子设备 通道 功耗
系统为您推荐了相关专利信息
1
机械臂的轨迹规划方法及装置、存储介质以及计算机程序产品
轨迹规划方法 采样点 邻域 线性化方法 轨迹规划装置
2
基于图匹配的目标追踪方法、装置、设备及介质
加权随机游走 追踪方法 二值化图像 矩阵 节点
3
石油天然气站场作业人员劳保用品穿戴检测方法及系统
劳保用品 深度Q网络 深度强化学习算法 天然气站场 生成作业
4
基于空间填充曲线映射与非线性相关匹配的密钥生成方法
空间填充曲线 密钥生成方法 非线性 序列 终端
5
一种戏曲文化推广系统及方法
文化推广系统 循环神经网络模型 生成器网络 线性回归模型 数据交互接口
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号