面向轻量卷积神经网络的训练后量化方法、装置

AITNT
正文
推荐专利
面向轻量卷积神经网络的训练后量化方法、装置
申请号:CN202411097720
申请日期:2024-08-12
公开号:CN118643878B
公开日期:2024-11-15
类型:发明专利
摘要
本发明公开了一种面向轻量卷积神经网络的训练后量化方法、装置,该方法包括读取图像数据;构建浮点模型和量化后模型,基于随机预处理和打乱顺序后的图像批次,逐块地对浮点模型和量化后模型中的每个模型块进行输出特征图的重建,并计算输出特征图重建的损失;基于特征图重建的损失,对量化后模型的每个模型块的批归一化参数和量化参数进行梯度更新和学习。本发明通过对图像数据进行逐块地预处理和随机打乱顺序,提高了模型对输入数据的泛化能力,避免了模型过拟合;通过逐块学习并更新批归一化层参数、权重缩放因子和激活缩放因子,可以在量化过程中细致调整模型参数,在低比特量化下仍保持较高的模型精度。
技术关键词
轻量卷积神经网络 输出特征 读取图像数据 参数 模型块 因子 优化量化模型 查询特征 优化器 注意力 传播算法 处理器通信 总量 存储器 通道 矩阵
系统为您推荐了相关专利信息
1
一种全自动监控小蚕生理状态的方法
生理 Android设备 注意力机制 全局平均池化 卷积神经网络模型
2
一种变压器剩余使用寿命估计方法及系统
剩余使用寿命估计 变压器 计算机可执行指令 指数 优化预测模型
3
字符编码识别方法、可读存储介质及计算机设备
字符编码识别方法 迁移学习策略 训练检测模型 字符检测模型 字符识别模型
4
一种生产报表全自动生成的智能生成器
智能生成方法 系统动力学模型 报表 元胞自动机 设备运行参数
5
变分自编码器非轴对称端壁造型参数化方法及优化系统
轴对称 端壁 优化搜索方法 参数化方法 数据
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号