基于神经网络硬件的量化方法、系统、设备及存储介质

本申请涉及一种基于神经网络硬件的量化方法、系统、设备及存储介质，涉及神经网络领域。其中方法包括：接收数据类型为BF16的初始数据；层归一化初始数据得到数据类型为BF16的activation数据；根据神经网络硬件设计矩阵乘法器；根据矩阵乘法器处理并计算activation数据得到第一数据；反量化第一数据得到反量化activation数据；输出反量化activation数据。本申请的技术效果是：保持大模型的性能的同时提高大模型运算速度。