非线性激活函数优化和SPU环境下自然语言模型推理提速方法

AITNT
正文
推荐专利
非线性激活函数优化和SPU环境下自然语言模型推理提速方法
申请号:CN202510840335
申请日期:2025-06-23
公开号:CN120745814A
公开日期:2025-10-03
类型:发明专利
摘要
本发明涉及人工智能与隐私计算交叉技术领域,尤其是一种非线性激活函数优化和SPU环境下自然语言模型推理提速方法。本发明首先观察非线性激活函数曲线,提取曲线转折点;然后基于曲线转折点对曲线进行分段,并构建各段非线性激活函数曲线的拟合函数;合并所有拟合函数作为优化后激活函数。本发明克服了现有技术中复杂的非线性激活函数影响大语言模型推理效率的缺陷,可在保证激活效果与原生激活函数无限逼近的情况下,简化激活计算指令,从而提高模型推理效率。
技术关键词
函数优化方法 自然语言模型 非线性 提速方法 曲线 多项式 大语言模型 存储器 处理器 分段 指令 参数
系统为您推荐了相关专利信息
1
基于大数据的储能电站电池健康状态诊断方法及系统
储能电站电池 诊断特征 强化学习算法 健康状态诊断方法 电池健康状态
2
机械臂对船舶的自主操控方法以及系统
机械臂 船舶 操控方法 工作量 关节
3
一种面向5G-A工业互联网环境的旋转单站定位方法及装置
单站定位方法 正弦模型 序列 标签设备 工业互联网
4
一种筛选g-C3N4固载的单原子催化剂的方法
CO2还原 催化剂特征 数据处理程序 合成气 核心
5
一种全封闭GIS设备的局部放电高精度检测方法及系统
高精度检测方法 电信号 振动响应参数 电磁波传感器 金属外壳
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号