摘要
本发明提供一种适应存内计算累积误差的神经网络训练量化方法及系统,包括:获取存内计算芯片的神经网络模型;根据需要处理的数据特征归一化调整神经网络模型的循环神经网络层输出数据分布,得到初步训练的神经网络模型;基于所述初步训练的神经网络模型进行微调,获得微调神经网络模型,基于所述微调神经网络模型进行芯片上的模型部署和推理测试,获取推理结果;将所述推理结果与预获取的软件仿真结果进行比对,生成误差分析结果;根据所述误差分析结果对所述微调神经网络模型进行再次微调,获取新的推理结果,经过多次迭代循环微调过程,直至误差分析结果满足预设条件,完成神经网络模型的训练量化。本发明解决了现有存内计算的不稳定性和随机误差限制应用规模的问题。
技术关键词
神经网络模型
神经网络训练
累积误差
软件仿真
数据分布
非暂态计算机可读存储介质
芯片
处理器
量化系统
误差校准
计算机程序产品
分析模块
存储器
电子设备
规模
因子