U8量化卷积加速装置、方法、设备与介质

本发明涉及U8量化卷积加速装置、方法、设备与介质，通过将矩阵乘的局部化和量化相结合，有效提升了卷积的速度并实现了运算局部化，减少缓存占用问题的同时减少了对特征数据的访问次数，同时通用于多种网络，实现边转换边计算。提出了整数乘和移位实现浮点乘方案，无需将结果先反量化再量化为U8数据类型，再输入下一层的网络中，而是可以直接输入到下一层网络中参与计算，极大减少了计算量。与传统技术相比，采用了软硬件协同的优化方案，该方案在U8矩阵乘加速硬件装置中增加在线硬件补偿模块，同步完成补偿值实时计算和卷积推理运算，减少调用次数，大幅提升计算效率。