摘要
本申请公开了一种网络模型量化方法、设备、存储介质及程序产品,涉及数据处理技术领域,包括:将待量化模块中的待量化矩阵进行分块以细分,获得分块矩阵,计算出各分块矩阵对应的分块重要度以及量化阈值,分块重要度体现出各自对应的分块矩阵在对应的待量化模块中的重要性,量化阈值是基于分块重要度计算出的,所以不同的待量化模块所对应的量化阈值不同,进而提高了量化阈值的灵活性,本申请中考虑了各待量化模块的不同点;基于各分块重要度以及量化阈值对各分块矩阵进行量化,所以对各分块矩阵进行量化时,是从分块矩阵上做的量化,而不是以待量化矩阵为单位进行量化,所以本申请在量化时更为细化,使得得到的量化后模型更为准确。
技术关键词
分块
矩阵
元素
图像编码
编码模块
文本
生成图像特征
算法
特征数据库
可读存储介质
网络
存储计算机程序
数据处理技术
计算机程序产品
处理器
数值
系统为您推荐了相关专利信息
主动声呐
傅里叶变换处理
成像方法
消息传递算法
信号
车位导航方法
车位导航系统
扩展卡尔曼滤波
IMU传感器
动态窗口法