一种自注意力机制计算方法、推理方法

本申请实施例提供了一种自注意力机制计算方法、推理方法，该方法包括：基于待处理对象确定查询矩阵、键矩阵、以及值矩阵；待处理对象包括图像、文本、视频、音频、信号中的任一种或多种；并计算查询矩阵与转置后键矩阵的乘积，作为第一乘积矩阵；以自然常数e为底数，并以第一乘积矩阵为指数，得到第二乘积矩阵；若值矩阵的列数小于第一乘积矩阵的列数，计算第二乘积矩阵与值矩阵的乘积，作为第三乘积矩阵；计算第二乘积矩阵的和值，作为矩阵和值；并计算第三乘积矩阵与矩阵和值的比值，作为基于自注意力机制得到的输出特征。应用本申请实施例提供的技术方案，能够提高基于自注意力机制的推理任务的效率。