量化感知训练终端芯片模型系统

本发明提供一种量化感知训练终端芯片模型系统，在监督学习模型的转化公式中引入参数S，由此在整体模型的训练时应用符号变换激活函数让参数S进行符号学习，并应用缩放变换激活函数让参数S进行缩放训练，由此通过训练促使参数S达到合适数值。该参数S的引入，有效地替代了现有技术中原有的必需的归一化处理方式，从而大大减少了硬件使用，有效地降低了成本，而且能极大地提高模型卷积精度。在深层网络模型做FP8量化时，在芯片端部署，卷积精度能从40％左右提升到80.2％。