摘要
本发明提供一种应用于量化神经网络卷积层的可变精度计算单元的设计方法及使用方法,对精度为1的向量进行移位运算,确定运算基本块的移位位数、维度和数量。排布运算基本块后用加法树连接构成阵列,得到可变精度的融合计算单元。据当前卷积层激活值与权重值的实际精度,配置可变精度融合计算单元阵列,各列融合计算单元并行计算;当前卷积层运算完毕后,根据下一层卷积层的数据精度,重新配置该二维阵列以此类推完成所有卷积层的运算。解决现有技术中运算单元在小于4比特的卷积运算中易造成计算资源的浪费的问题,无法灵活的根据卷积层的实际情况动态采用不同的量化位宽来处理数据,提升资源利用率及计算效率的问题。
技术关键词
精度
卷积层运算
处理单元
阵列结构
输出特征
比特流
特征值
物理
分片
数据
逻辑
算法
动态
资源
系统为您推荐了相关专利信息
肿瘤CT图像
数据收集模块
分割系统
诊断特征
多模态
制孔机器人
设备外壳
丝杆机构
脱离设备
调节刀具
非线性映射关系
动态权重优化
力学计算方法
固体
深度神经网络
预训练模型
输出特征
噪声预测
编码器特征
解码器