基于10位查找表的高精度64位无符号整数开方方法

AITNT
正文
推荐专利
基于10位查找表的高精度64位无符号整数开方方法
申请号:CN202411586364
申请日期:2024-11-08
公开号:CN119623489A
公开日期:2025-03-14
类型:发明专利
摘要
本发明公开了基于10位查找表的高精度64位无符号整数开方方法,包括以下步骤:查找表的构建;输入值边界界定与判断;获取索引值并计算开方结果;进一步优化。综上所述,本发明基于10位查找表的高精度64位无符号整数开方方法应用于高精度智能电表计量模块中,可在保证开方精度的前提下大大缩短MPU计算时间,大大提高了计量模块的数据处理效率,满足智能电表高精度的计量需求,该方法的最大计算时间缩减至1062个系统时钟周期,相较于ANSI’C’标准库中的开方算法的3782个系统时钟周期,MPU计算速度提升约71.9%,同时开方结果误差量级达到10e‑3,满足高精度电表的计量需求,查找表方法可以避免复杂的实时计算,通过查表快速获取结果优化程序的性能。
技术关键词
开方方法 高精度智能电表 符号 计量模块 高精度电表 查找表 系统时钟 索引 平方根 误差 变量 周期 粗略 因子 算法 程序 数据
系统为您推荐了相关专利信息
1
分组密码不可能差分自动化安全性评估方法
安全性评估方法 密码 模式 解密 加密
2
一种基于鲁棒遗传规划和特征学习的弱图像分类方法
分布式进化算法 图像分类方法 图像分类模型 数据 对抗性
3
一种面向存内计算的模型参数加密、模型参数计算方法及装置
模型参数计算方法 参数加密方法 符号 数值 密钥
4
一种基于连续调频信号的通感一体化信号波形设计方法
信号波形设计方法 调频斜率 分段 频率 滤波解调方法
5
基于最小描述长度的符号回归方法、装置、设备及介质
符号 样本 网络模块 蒙特卡洛树搜索 参数
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号