一种基于分段近似实现的Softmax加速器及设计方法

本发明提出了一种基于分段近似实现的Softmax加速器及设计方法，包括：最大值模块、减法模块、数据分割模块、指数模块、加法树模块以及对数模块；最大值模块的输入是Softmax的输入向量xi，i＝1，2，3……n，通过多路并行比较器选择输入向量中的最大值xmax；减法模块的输入为xi和xmax，通过n个并行加法器完成减法运算，得到n个输出结果xi‑xmax；数据分割模块将xi‑xmax数据分割为xi‑xmax＝负值整数+正值小数；指数模块根据数据分割结果计算通过分段近似的方法拟合指数函数；加法树模块的输入是输出对数模块的输入是通过分段近似的方法拟合对数函数，输出本发明在保证计算精度的前提下，通过分段近似方法简化指数运算，并对除法运算进行优化以降低硬件复杂程度，从而提升深度学习模型的推理速度。