摘要
本发明涉及神经网络加速计算技术领域。提供一种基于全频域处理的长短期记忆网络加速方法及系统。步骤如下:将当前时刻的输入数据与前一时刻的隐藏状态拼接为扩展输入序列;对扩展输入序列和权重矩阵执行快速傅里叶变换,生成频域输入表示和频域权重表示;在频域内将频域输入表示与频域权重表示进行逐元素复数点乘,生成频域点乘结果;对频域点乘结果按行累加,生成频域累加结果,对频域累加结果应用频域线性近似激活函数,得频域激活值;基于频域激活值,在频域内更新当前细胞状态和隐藏状态;在最终时刻对隐藏状态执行快速傅里叶逆变换,恢复为时域输出结果。解决当前使用频域压缩LSTM网络的方法中频繁时域/频域切换导致计算效率低下的问题。
技术关键词
CORDIC算法
长短期记忆网络
Sigmoid函数
序列
旋转单元
分块循环矩阵
线性
元素
因子
状态更新
无乘法器
输出模块
存储计算机程序
加速系统
拼接模块
坐标系
电子设备
系统为您推荐了相关专利信息
声学特征
语音转换方法
声学结构
转换文本
情感分类模型
节能空调制冷系统
多变量传感器
变频技术
变频压缩机
深度学习模型
程度评价方法
身体状况数据
显微镜成像技术
轨迹预测模型
指标
智能供料系统
稀土金属
参数
算法模块
稀土氧化物