摘要
本发明公开了一种基于能量注意力机制的自适应压缩神经网络计算电路,涉及神经网络的硬件实现技术领域。本发明通过实现基于信号能量的压缩机制、以及基于神经网络的注意力压缩机制,通过多阶段压缩的处理方式简化了注意力机制的运算量,实现了压缩操作的低延时处理,该处理策略能够有效地过滤时间序列信号中的无关信号帧,从而缩小神经网络运算核心电路的输入特征图尺寸,进而降低神经网络运算时的运行功耗。同时,针对神经网络的权重数据的压缩实现了一种自适应压缩的神经网络计算电路,其实现了针对特征图的动态尺寸自适应,以及针对神经网络权重的压缩运算。本发明实现了神经网络的低功耗、低延迟运算。
技术关键词
读写控制电路
神经网络运算电路
压缩神经网络
压缩存储器
总线控制器
解码指令
运算控制电路
注意力机制
分配电路
数据
移位电路
信号
索引