模型的参数量化方法、装置、电子设备及存储介质

AITNT
正文
推荐专利
模型的参数量化方法、装置、电子设备及存储介质
申请号:CN202411629862
申请日期:2024-11-13
公开号:CN119416914A
公开日期:2025-02-11
类型:发明专利
摘要
本申请实施例提供了一种模型的参数量化方法、装置、电子设备及存储介质,涉及计算机技术领域。该方法包括:基于初始模型的第一模型参数以及目标量化定点位数,确定理论量化参数,并基于理论量化参数和目标量化定点位数确定零点值;基于理论量化参数确定候选量化参数;通过每一候选量化参数以及零点值对第一模型参数进行量化,得到各第二模型参数,并确定各第二模型参数的模型误差;将模型参数调整为最小模型误差的第二模型参数。通过目标量化定点位数获取满足需求的候选量化参数,并计算每一候选量化参数造成的模型误差,最终选取模型误差最小的候选量化参数作为目标量化参数进行量化,能在提高模型本身计算效率的同时,保持模型输出的精准度。
技术关键词
模型误差 参数量化方法 矩阵 元素 理论 校准 浮点数 信号 电子设备 处理器 模块 可读存储介质 存储器 计算机
系统为您推荐了相关专利信息
1
一种自然语言问题转SQL查询方法
自然语言 查询方法 解码信息 语句 双向注意力机制
2
一种基于随机权重的混沌加解密方法及系统
加解密方法 子系统 矩阵 图像 混沌系统
3
一种晶圆表面缺陷检测方法、装置及计算机设备
表面缺陷检测方法 图像 灰度共生矩阵 机器学习模型 皮尔逊相关系数
4
跨模态图像融合的高光谱点云废旧塑料瓶智能分拣方法
智能分拣方法 废旧塑料瓶 融合特征 点云 三维视觉传感器
5
一种水泥生产分解炉温度控制系统参数寻优方法及介质
参数寻优方法 温度控制系统 分解炉 水泥 状态空间模型
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号