基于16位查找表的高精度64位无符号整数开方方法

AITNT
正文
推荐专利
基于16位查找表的高精度64位无符号整数开方方法
申请号:CN202411586366
申请日期:2024-11-08
公开号:CN119558331A
公开日期:2025-03-04
类型:发明专利
摘要
本发明公开了基于16位查找表的高精度64位无符号整数开方方法,包括以下步骤:查找表的构建;输入边界的界定与判断;获取索引值;查表计算。综上所述,本发明基于16位查找表的高精度64位无符号整数开方方法应用于高精度智能电表计量模块中,可在保证开方精度的前提下大大缩短MPU计算时间,大大提高了计量模块的数据处理效率,满足智能电表高精度的计量需求,该方法的最大计算时间缩减至646个系统时钟周期,相较于ANSI’C’标准库中的开方算法的3782个时钟周期,MPU计算速度提升约82.9%。同时开方结果误差量级达到10e‑6,提高计算速度:通过查找表可以快速找到64位无符号整数的平方根的近似值,避免了复杂的迭代计算,从而显著提高了计算速度,简化算法实现。
技术关键词
开方方法 高精度智能电表 符号 计量模块 索引 平方根 查找表 简化算法 系统时钟 误差 有效值 变量 周期 粗略 因子
系统为您推荐了相关专利信息
1
一种确定冲出跑道风险的飞行参数安全阈值的方法、设备
跑道 网格 高风险 包线 动态规划算法
2
异常因子确定方法、电子设备及存储介质
因子 数据 参数 数值 概率密度函数
3
一种基于图形数据的不动产登记信息的实时查询系统
不动产登记信息 查询系统 强化学习框架 索引机制 多层注意力
4
一种基于用户视角的通用搜索引擎结果页面重排方法
通用搜索引擎 重排方法 视角 大语言模型 页面
5
一种多吸热塔光热镜场的目标点动态调整方法
整数线性规划模型 光热 吸热器 坐标 定日镜
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号