摘要
本公开提供了一种数据处理装置、芯片、方法、设备和介质,涉及人工智能技术领域,尤其涉及神经网络、深度学习、人工智能芯片等技术领域。该装置包括:数据传输单元,用于接收与多个第一矩阵元素对应的多组量化数据,每组量化数据包括量化参数和具有第一低精度格式的k个第一矩阵元素;将k个第一矩阵元素格式转化为具有第一高精度格式;脉动阵列,包括处理单元,其中包括:算数逻辑单元,用于计算具有第一高精度格式的k个第一矩阵元素和对应的k个第二矩阵元素的元素乘积的累加和;k维度累加器,被配置为利用设置于其中的浮点数乘法单元计算每组量化数据所包括的量化参数与对应的累加和的乘积并进行累加。
技术关键词
浮点数乘法
算数逻辑单元
矩阵
元素
数据传输单元
格式
参数
乘法器
数据处理装置执行
精度
处理单元
人工智能芯片
存储器
集成电路芯片
处理器
数据处理方法
人工智能技术
计算机
系统为您推荐了相关专利信息
连续体机器人
优化控制方法
光纤光栅传感器
粒子群算法
雅可比矩阵
缺陷检测系统
磁梯度场
亥姆霍兹线圈
补偿控制单元
图像检测单元
激光雷达传感器
图像传感器
姿态偏差
吊具
姿态控制方法