基于softmax的神经网络模型的推理方法和装置

本申请公开了基于softmax的神经网络模型的推理方法和装置，包括：人工智能芯片利用所述神经网络模型，对所述神经网络模型的输入数据进行推理，直到确定出所述softmax算子的输入特征；中央处理器或向量处理器对所述输入特征以行为单位进行稀疏化处理，并利用softmax算子对稀疏化处理后的输入特征进行处理；人工智能芯片基于softmax算子处理后的输出结果完成所述神经网络模型的推理，以此类推直至确定所述神经网络模型的输出。应用本申请，能够有效提高模型推理速度，并保证模型推理效果。