误差补偿方法及装置、计算机可读存储介质、计算装置

AITNT
正文
推荐专利
误差补偿方法及装置、计算机可读存储介质、计算装置
申请号:CN202510926424
申请日期:2025-07-04
公开号:CN120874892A
公开日期:2025-10-31
类型:发明专利
摘要
提供一种误差补偿方法及装置、计算机可读存储介质、计算装置。该误差补偿方法包括:获取对神经网络模型进行量化获得量化模型的过程中产生的多个权重量化误差中的预定比例的权重量化误差,其中,所述预定比例的权重量化误差是基于所述多个权重量化误差对所述量化模型的精度的影响程度确定的;基于所述预定比例的权重量化误差和所述量化模型的量化权重矩阵,对所述量化模型的输出进行补偿,得到所述量化模型的补偿后的最终输出,从而在保障量化模型的输出结果的精度的情况下,显著减小了用于对量化模型进行误差补偿的数据存储的内存开销。
技术关键词
量化误差 误差补偿方法 矩阵乘法运算 神经网络模型 舍入误差 误差补偿装置 处理器 可读存储介质 索引 精度 存储器 计算机 数据存储 内存
系统为您推荐了相关专利信息
1
基于光纤感知和深度学习的桥群结构状态评估方法及系统
状态评估方法 桥梁状态评估 评估桥梁 神经网络模型 数据采集设备
2
一种基于多层感知机的甲烷测量多参量补偿方法
多层感知机 甲烷 神经网络模型 补偿方法 重构
3
一种模拟电路的参数确定方法、装置、介质以及产品
参数 策略 指标 集成电路设计技术 神经网络模型
4
基于机器学习的既有钢柱时变易损性及剩余抗震能力评估方法
钢框架柱 抗震能力评估方法 延性金属 钢柱 非线性映射关系
5
一种电力电缆绝缘性能评估方法
电力电缆 联合建模方法 电气 评估算法 模糊逻辑
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号