一种神经网络量化方法、装置、设备及可读存储介质

AITNT
正文
推荐专利
一种神经网络量化方法、装置、设备及可读存储介质
申请号:CN202510911946
申请日期:2025-07-02
公开号:CN120764600A
公开日期:2025-10-10
类型:发明专利
摘要
本发明公开了一种神经网络量化方法、装置、设备及可读存储介质,应用于神经网络技术领域,包括:基于目标神经网络不同层的精度要求,确定目标神经网络不同层的量化敏感度;基于量化敏感度确定的每层量化精度范围确定目标神经网络的配置,得到多种量化配置,每种量化配置中基于可重构计算单元确定的量化计算组合不同;将多种量化配置作为输入,设定的目标神经网络的性能和神经网络加速器的性能作为目标,在多种量化配置中进行寻优,得到最优量化精度配置。本发明可以基于每层量化精度范围确定与每层对应的量化方法,从而在满足设定性能目标的情况下,使得每层可以以不同的量化方法进行量化,从而可以实现神经网络性能和计算效率的平衡。
技术关键词
神经网络加速器 神经网络量化方法 重构 动态量化方法 精度 神经网络技术 可读存储介质 存储计算机程序 非线性 数据中心 模块 关系 处理器 存储器 场景 参数
系统为您推荐了相关专利信息
1
基于高程图像的三维地形重构方法、电子设备及存储介质
重构方法 坐标 图像块 边缘检测算法 非暂态计算机可读存储介质
2
钒液流电堆组装系统
钒液流电堆 组装系统 伸缩机构 支撑组件 平衡电网负荷
3
轻量化自然语言处理大模型训练方法
模型训练方法 数据 上下文特征 融合特征 语义
4
一种面向多农机协同调度的多目标优化方法
农机 农田 解码机制 构建算法 轮廓系数
5
一种双预测控制器的可重构车辆协同控制方法
轮毂电机 车辆协同控制方法 耦合动力学模型 模块 扩展卡尔曼滤波
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号