摘要
本发明涉及一种基于算法与硬件协同的神经网络加速方法、装置及加速器,该方法包括:基于稀疏性阈值,处理量化张量的值级索引,以生成层元数据,并动态调整稀疏性模式;根据符号转换和位查找表识别非零比特的位置和数量,并将处理后的数据放入位分组中,以消除无贡献位;处理位分组,并将从层元数据中提取的自适应索引机制的相关输入和张量分配到位弹性处理单元,且根据非零比特位数执行移位加法计算;基于列式计算阵列,指令所有阵列在预设周期内完成乘法运算,并存储部分积以及对应于各自位宽的数据流。该发明能够使加速器控制器在计算过程中高效跳过这些零位,同时,提升了位级加速器的性能和适用性。
技术关键词
神经网络加速方法
索引机制
处理单元
符号
查找表
神经网络加速装置
加法器
阵列
数据
管理器
加速器控制器
多路复用器
算法
输入神经网络模型
神经网络加速器
标志
动态
系统为您推荐了相关专利信息
三维重建方法
容器
三维模型
轮廓特征
深度图像去噪
程序转换方法
预训练模型
格式化模块
数据
策略更新
服务调度方法
端口
多模型
服务调度装置
系统状态检测