原生支持FP8数制块量化大模型的张量核部件及芯片

本发明提供一种原生支持FP8数制块量化大模型的张量核部件及芯片，涉及人工智能芯片技术领域，包括解压缩层和计算层，解压缩层用于对8比特位浮点数数制的两个浮点数矩阵中的浮点数元素进行解压缩处理，得到两个浮点数矩阵各自对应的预设比特位格式的浮点数元素；计算层用于对8比特位浮点数数制量化结果和8比特位浮点数数制量化结果对应的缩放因子进行乘加操作，得到量化还原结果，并对量化还原结果进行规格化处理，得到目标比特位格式浮点数，其中，8比特位浮点数数制量化结果是通过对激活值矩阵对应的所有浮点数元素和权重值矩阵对应的所有浮点数元素进行指数处理和尾数处理得到的。本发明节省了片内存储容量和带宽，提升整体运算效率。