摘要
本发明提出一种基于梯度方差与时序衰减的深度学习自适应学习率优化方法,方法包括:收集全部样本的单样本梯度,构成批次内的梯度集合,并基于单样本梯度计算批次内的批次梯度全局方差信号;对深度学习模型进行随机扰动推理,获取预测输出;基于所述置信轨迹单元及其历史轨迹,构建包含历史时间步信息的复合动态特征;将所述复合动态特征和置信校准方差联合输入,输入至调度器生成动态学习率;根据动态学习率对所述深度学习模型进行更新,生成新的模型参数,结合其在当前批次训练数据上计算得到的梯度,完成模型参数更新,并通过状态反馈机制将训练动态信息传递给下一轮信号提取流程,进行闭环优化。
技术关键词
深度学习模型
动态
信号
轨迹
样本
调度器
非线性结构
编码器
校准机制
时序特征
闭环
数据
超参数
鲁棒性
噪声
系统为您推荐了相关专利信息
信号处理系统
频段
建筑物
人工智能模型训练
因子
螺栓松动检测方法
声纹检测技术
检测输电杆塔
信号采集系统
滤波器
多源观测数据
原始观测数据
机器学习模型
气溶胶产品
随机森林