摘要
本发明实施例公开了一种神经网络激活函数的计算方法、装置及介质;方法包括:根据不同激活函数的计算特性,将激活函数输入区间划分为激活区和通用区;计算激活区和通用区的表项;将表项加载至不同计算单元,进行输入数据的类型转化和判断,并根据输入数据的大小进行不同形式的查表计算。本发明针对激活函数通用区的变化稳定的特性,使用kb表项获得更有效率的结果;针对激活区的重要性和变化剧烈程度,采用查找表和分段线性逼近相结合的方式,来提升激活函数的精度以及运行速度。在神经网络模型的运行中,本发明可通过查表提升激活函数算子的运行速度,通过增加表项差异更灵活地提升了算子精度,以及减少了表项的存储空间。
技术关键词
神经网络激活函数
计算方法
数据
输入设备
处理器
可读存储介质
索引
存储计算机程序
神经网络模型
存储器
小区间
指令
有效率
精度
速度
分段
线性
系统为您推荐了相关专利信息
节点
异常信息
知识图谱查询
日志
计算机程序产品
智能散热控制系统
多模态传感器
笔记本电脑处理器
笔记本电脑风扇
指数