摘要
本申请提供一种人工智能算子的运算方法、存储介质和电子设备,包括:获取和,其中为所述算子对应的各个输入量化值映射得到的浮点区间中的最小浮点值,为所述浮点区间中的最大浮点值;在和间的差值符合第一预设条件时,将各个输入量化值作为各个目标函数值,从第一查找表中查找出各个目标函数值对应的各个指数函数值;获得各个指数函数值的加法运算结果,并根据第二查找表查找到所述加法运算结果的倒数;将以第i个输入量化值作为至少部分所构成的目标函数值对应的指数函数值与所述加法运算结果的倒数进行运算处理,得到所述算子的第i个输出量化值,i为正整数。本申请可提高整体硬件资源的效率。
技术关键词
切片
查找表
人工智能芯片
电子设备
存储器
处理器
比特数
可读存储介质
索引
计算机
系统为您推荐了相关专利信息
面片
数据处理方法
铁路
LBP特征
BIM模型数据
家电设备
建议生成方法
意图类别
上存储计算机程序
文本
机器学习模型
金融
聚类
可读存储介质
人工智能技术
调试方法
样本
等离子体刻蚀工艺
时间序列分析方法
数据