稀疏神经网络的矢量近似更新方法及应用

AITNT
正文
推荐专利
稀疏神经网络的矢量近似更新方法及应用
申请号:CN202410956818
申请日期:2024-07-16
公开号:CN118917368A
公开日期:2024-11-08
类型:发明专利
摘要
本申请公开了一种稀疏神经网络的矢量近似更新方法及应用,方法包括获取神经网络中待更新的权重参数的精确梯度参数,得到精确梯度信息;为矩阵结构中同行的多个权重参数以及同列的多个权重参数构建相同的更新脉冲;构建操作矩阵变量;基于操作矩阵变量构建梯度矩阵变量;以精确梯度矩阵为梯度矩阵变量的目标,拟合求解操作矩阵变量,得到最优操作矩阵;基于所述最优操作矩阵,更新所述权重矩阵的权重参数。本申请的矢量近似更新方法全程无需对稀疏信息进行外部索引,大大降低了稀疏训练过程中的时间开销和能耗开销;在稀疏神经网络更新过程中具有媲美传统的逐个单元更新的精确更新算法的更新精度和训练效果。
技术关键词
矩阵 稀疏神经网络 更新方法 变量 参数 机器可读存储介质 存储器存储指令 传播算法 模块 脉冲 处理器 电子设备 索引 标签 能耗 指标 误差
系统为您推荐了相关专利信息
1
一种基于多尺度动态状态估计与误差补偿的机械臂控制方法
动态状态估计 机械臂控制方法 机械臂系统 状态估计量 估计误差
2
一种基于代理模型的舰船长轴系校中优化方法
Kriging模型 样本 参数 齿轮轴承 拉丁超立方抽样
3
一种需求扰动下的混合流水车间动态调度优化方法
动态调度优化方法 流水车间 特征提取网络 决策 工件
4
一种土壤肥力预测系统及方法
预测系统 施肥策略 种植参数 无人机设备 指数
5
一种面向学生实践的AI智能辅助答疑系统
答疑系统 图谱 补全策略 知识点 多模态交互
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号