一种基于Top-K稀疏矩向量乘法的加速器及加速方法

本发明涉及一种基于Top‑K稀疏矩向量乘法的加速器及加速方法，加速器包括第一加速单元和第二加速单元。第一加速单元用于数据预处理和稀疏矩阵编码，第二加速单元用于执行Top‑K稀疏矩阵向量乘法，以求取稀疏矩阵与稠密向量相乘的运算结果中值最大的前K个结果的过程；其中，第一加速单元包括预处理模块和编码模块；预处理模块的数据预处理步骤包括量化、稀疏重构和洗牌；基于稀疏矩阵的量化步骤来降低数据传输的宽带需求；基于稀疏重构算法剪枝对排序影响较小的非零元素；对稀疏重构后的稀疏矩阵进行洗牌操作，以避免Top‑K聚集现象；编码模块用于将预处理后的稀疏矩阵进行重新编码。本发明具有使端到端性能分别提升153.3倍、2.5倍和3.4倍的显著效果。