一种基于二次量化降低量化误差的方法及系统

AITNT
正文
推荐专利
一种基于二次量化降低量化误差的方法及系统
申请号:CN202410783677
申请日期:2024-06-18
公开号:CN118643869A
公开日期:2024-09-13
类型:发明专利
摘要
本发明公开了一种基于二次量化降低量化误差的方法及系统,方法按如下步骤:S1、激活数据并对激活数据进行预处理;S2、对预处理后的激活数据进行二次量化;S3、对量化后的数据进行编码;S4、编码后的数据进行分步加速卷积计算。本发明对传统二值神经网络激活的量化进行了改进,在激活的量化中引入了二次量化,降低了因量化带来的误差,进而保留了更多的特征信息,为模型的训练提供了更丰富的信息。最终,提高了模型的预测精度。
技术关键词
量化误差 数据 二值神经网络 编码模块 精度 通道 符号 物理
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号