一种基于梯度方差与时序衰减的深度学习自适应学习率优化方法

AITNT
正文
推荐专利
一种基于梯度方差与时序衰减的深度学习自适应学习率优化方法
申请号:CN202510376099
申请日期:2025-03-27
公开号:CN120297350A
公开日期:2025-07-11
类型:发明专利
摘要
本发明提出一种基于梯度方差与时序衰减的深度学习自适应学习率优化方法,方法包括:收集全部样本的单样本梯度,构成批次内的梯度集合,并基于单样本梯度计算批次内的批次梯度全局方差信号;对深度学习模型进行随机扰动推理,获取预测输出;基于所述置信轨迹单元及其历史轨迹,构建包含历史时间步信息的复合动态特征;将所述复合动态特征和置信校准方差联合输入,输入至调度器生成动态学习率;根据动态学习率对所述深度学习模型进行更新,生成新的模型参数,结合其在当前批次训练数据上计算得到的梯度,完成模型参数更新,并通过状态反馈机制将训练动态信息传递给下一轮信号提取流程,进行闭环优化。
技术关键词
深度学习模型 动态 信号 轨迹 样本 调度器 非线性结构 编码器 校准机制 时序特征 闭环 数据 超参数 鲁棒性 噪声
系统为您推荐了相关专利信息
1
一种基于YOLOv7的轻量级无人机图像落水人员检测算法
无人机 注意力机制 图片 图像 ReLU函数
2
一种基于国土空间规划的多情景模拟推演方法
推演方法 情景 博弈算法 注意力机制 三维模型
3
一种基于5G-NR设备的信号处理系统
信号处理系统 频段 建筑物 人工智能模型训练 因子
4
基于机载式声纹检测技术的输电杆塔螺栓松动检测方法
螺栓松动检测方法 声纹检测技术 检测输电杆塔 信号采集系统 滤波器
5
基于地气耦合遥感的下垫面起沙等级预报模型的构建方法
多源观测数据 原始观测数据 机器学习模型 气溶胶产品 随机森林
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号