摘要
本发明涉及人工智能与隐私计算交叉技术领域,尤其是一种非线性激活函数优化和SPU环境下自然语言模型推理提速方法。本发明首先观察非线性激活函数曲线,提取曲线转折点;然后基于曲线转折点对曲线进行分段,并构建各段非线性激活函数曲线的拟合函数;合并所有拟合函数作为优化后激活函数。本发明克服了现有技术中复杂的非线性激活函数影响大语言模型推理效率的缺陷,可在保证激活效果与原生激活函数无限逼近的情况下,简化激活计算指令,从而提高模型推理效率。
技术关键词
函数优化方法
自然语言模型
非线性
提速方法
曲线
多项式
大语言模型
存储器
处理器
分段
指令
参数
系统为您推荐了相关专利信息
储能电站电池
诊断特征
强化学习算法
健康状态诊断方法
电池健康状态
单站定位方法
正弦模型
序列
标签设备
工业互联网
CO2还原
催化剂特征
数据处理程序
合成气
核心
高精度检测方法
电信号
振动响应参数
电磁波传感器
金属外壳