模型的量化方法、装置、电子设备、存储介质及程序产品

AITNT
正文
推荐专利
模型的量化方法、装置、电子设备、存储介质及程序产品
申请号:CN202510799724
申请日期:2025-06-16
公开号:CN120317308B
公开日期:2025-09-23
类型:发明专利
摘要
本申请公开了一种模型的量化方法、装置、电子设备、存储介质及程序产品,涉及计算机技术领域,包括确定待量化的第一神经网络模型。将第一神经网络模型的多个目标层的神经网络的权重参数由第一预设位数的浮点数转换为第二预设位数的整数,得到第二神经网络模型。在第二神经网络模型接收到待推理的数据的情况下,将多个目标层的神经网络的输入激活值由第一预设位数的浮点数转换为第二预设位数的整数。通过对目标层的神经网络的权重参数和输入激活值进行同等精度的等位量化处理,解决了因权重参数和输入激活值的量化精度不一致而带来的无法收敛的问题或出现乱码的技术问题,达到了降低第二神经网络模型的输出结果的错误率的技术效果。
技术关键词
神经网络模型 浮点数 参数 数值 自然语言文本 嵌入式设备 移动设备 电子设备 可读存储介质 解码 存储计算机程序 格式 关系 因子 错误率 数据 处理器 模块
系统为您推荐了相关专利信息
1
基于安全监管的智慧燃气加气站维护方法与物联网系统
加气设备 安全监管 物联网系统 历史运行数据 加气站
2
基于人工蜂群算法的灭火微胶囊释放控制方法及系统
人工蜂群算法 释放控制方法 微胶囊 多模态 传感器
3
海上光伏短期功率预测方法、装置、设备、介质及产品
光伏电站 组合深度 多模态 数值天气预报数据 气象
4
基于神经网络权重分布的子区间量化方法及装置
均方误差最小原则 分布特征 端点 参数 数据分布
5
玻璃热循环控制方法以及相关装置
热循环控制方法 设备结构部件 调控模型 玻璃 参数
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号