摘要
本申请公开了一种基于定点数开方的数据输出方法、设备和存储介质,涉及计算机技术领域,所述方法包括:通过精度公式,对输入值的非零正数进行计算和归一化处理,生成所述非零正数对应的有效数字;根据所述有效数字对应的压缩索引,于压缩查找表进行查询,获取所述有效数字对应的平方根倒数近似值;基于所述有效数字对应的平方根倒数近似值,进行迭代优化、指数奇偶性调整、余数反馈校正以及边界特化处理,生成有效结果;将所述有效结果进行反归一化处理,生成所述有效结果对应的定点数并输出。本申请通过定点数形式与有效数字形式的转换,克服了相关技术中,定点数开方算法中分布式环境放大误差的技术问题,提升了定点数开方的性能和精确度。
技术关键词
数据输出方法
平方根
开方设备
查找表
指数
索引
精度
分布式环境
符号
校正
处理器
可读存储介质
存储器
动态
矫正
格式
计算机
线性
算法
系统为您推荐了相关专利信息
机器状态数据
机器控制系统
机器控制方法
综合机器
气候
事件时间标签
文本识别
语义向量
分析方法
趋势波动分析
关键帧
综合系统
比例模型
周期性
上存储计算机程序