网络模型量化方法、设备、存储介质及程序产品

AITNT
正文
推荐专利
网络模型量化方法、设备、存储介质及程序产品
申请号:CN202510222574
申请日期:2025-02-27
公开号:CN119721144B
公开日期:2025-11-11
类型:发明专利
摘要
本申请公开了一种网络模型量化方法、设备、存储介质及程序产品,涉及数据处理技术领域,包括:将待量化模块中的待量化矩阵进行分块以细分,获得分块矩阵,计算出各分块矩阵对应的分块重要度以及量化阈值,分块重要度体现出各自对应的分块矩阵在对应的待量化模块中的重要性,量化阈值是基于分块重要度计算出的,所以不同的待量化模块所对应的量化阈值不同,进而提高了量化阈值的灵活性,本申请中考虑了各待量化模块的不同点;基于各分块重要度以及量化阈值对各分块矩阵进行量化,所以对各分块矩阵进行量化时,是从分块矩阵上做的量化,而不是以待量化矩阵为单位进行量化,所以本申请在量化时更为细化,使得得到的量化后模型更为准确。
技术关键词
分块 矩阵 元素 图像编码 编码模块 文本 生成图像特征 算法 特征数据库 可读存储介质 网络 存储计算机程序 数据处理技术 计算机程序产品 处理器 数值
系统为您推荐了相关专利信息
1
基于Transformer的基因编辑Cas9蛋白活性预测方法及系统
活性预测方法 核苷酸 蛋白 编码 残差网络
2
一种基于复近似消息传递的主动声呐成像方法
主动声呐 傅里叶变换处理 成像方法 消息传递算法 信号
3
基于多模态数据的护理质量管控系统
管控系统 编码向量 文本 线索 语义
4
一种红外目标检测方法、装置、设备及介质
编码特征 编码器模块 注意力 强化特征 像素点
5
一种基于强化学习的室内外一体化车位导航方法及系统
车位导航方法 车位导航系统 扩展卡尔曼滤波 IMU传感器 动态窗口法
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号