一种面向Transformer网络的混合精度乘法器

本发明公开了一种面向Transformer网络的混合精度乘法器，应用于FPGA，根据目标Transformer网络当前层的权重数据的权重精度、目标高分辨率图像的特征图数据的特征图精度和预设数据分配规则，确定单个计算周期的第一数量的权重数据和第二数量的特征图数据；根据第一数量的权重数据和第二数量的特征图数据，确定目标重编码算法后对权重数据和特征图数据进行重编码，得到权重编码数据和特征图编码数据；在单个计算周期内对权重编码数据和特征图编码数据进行乘法计算，得到单个计算周期的初始乘积结果；对初始乘积结果进行解码，将目标Transformer网络当前层对应的所有计算周期的多个子特征图数据合并，得到目标特征图数据。本发明在保证模型精度的基础上，提升了资源利用率。