大语言模型的加速方法、装置和电子设备

本申请涉及一种大语言模型的加速方法、装置和电子设备，该方法包括根据两个浮点数的乘法公式，得出将浮点数乘法转化为整数加法的转换公式，获取浮点数乘数，被乘数的相关数据，确定指数偏移量，将浮点数乘数，被乘数的符号位，指数位和指数偏移量代入所述转换公式，得到近似结果的近似符号位和近似指数位，将浮点数乘数和被乘数的尾数位对应相加，得到近似结果的近似尾数位，结合所述近似结果的近似符号位，近似指数位和近似尾数位，得出最终结果。该方法利用加法比乘法的能耗低的特点，用加法来近似乘法运算，有效地降低了大语言模型的训练和推理的能耗，从而减少了微调训练和推理的计算资源消耗。