基于定点数开方的数据输出方法、设备和存储介质

AITNT
正文
推荐专利
基于定点数开方的数据输出方法、设备和存储介质
申请号:CN202510777440
申请日期:2025-06-11
公开号:CN120780271A
公开日期:2025-10-14
类型:发明专利
摘要
本申请公开了一种基于定点数开方的数据输出方法、设备和存储介质,涉及计算机技术领域,所述方法包括:通过精度公式,对输入值的非零正数进行计算和归一化处理,生成所述非零正数对应的有效数字;根据所述有效数字对应的压缩索引,于压缩查找表进行查询,获取所述有效数字对应的平方根倒数近似值;基于所述有效数字对应的平方根倒数近似值,进行迭代优化、指数奇偶性调整、余数反馈校正以及边界特化处理,生成有效结果;将所述有效结果进行反归一化处理,生成所述有效结果对应的定点数并输出。本申请通过定点数形式与有效数字形式的转换,克服了相关技术中,定点数开方算法中分布式环境放大误差的技术问题,提升了定点数开方的性能和精确度。
技术关键词
数据输出方法 平方根 开方设备 查找表 指数 索引 精度 分布式环境 符号 校正 处理器 可读存储介质 存储器 动态 矫正 格式 计算机 线性 算法
系统为您推荐了相关专利信息
1
一种自适应高空机器控制系统及方法
机器状态数据 机器控制系统 机器控制方法 综合机器 气候
2
一种基于用户行为分析的APP内广告精准推荐方法
账号 精准推荐方法 视觉特征信息 账户 身份
3
一种基于OCR与NLP的保电方案文本识别分析方法
事件时间标签 文本识别 语义向量 分析方法 趋势波动分析
4
一种虚拟综合系统模型的仿真调度方法及系统、设备、介质
关键帧 综合系统 比例模型 周期性 上存储计算机程序
5
一种线上消防培训模拟训练系统及其训练方法
模拟训练系统 消防 焦虑 火灾场景 模块
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号