基于自适应学习率调整的大模型参数优化方法及系统

AITNT
正文
推荐专利
基于自适应学习率调整的大模型参数优化方法及系统
申请号:CN202510573551
申请日期:2025-05-06
公开号:CN120509447A
公开日期:2025-08-19
类型:发明专利
摘要
本发明涉及数据处理技术领域,且公开了基于自适应学习率调整的大模型参数优化方法,包括以下步骤:S1:初始化模型参数和学习率;S2:根据当前学习率和模型参数,计算模型在训练集上的损失;S3:根据损失值的变化情况,动态调整学习率;本发明还提出了基于自适应学习率调整的大模型参数优化系统,包括系统模块总成,所述系统模块总成包括数据预处理模块、模型训练模块、学习率调整模块和参数更新模块。本发明根据损失值的变化情况,动态调整学习率,实现了学习率的自适应调整,避免了手动调参的繁琐和不确定性,适用于各种规模和复杂度的深度学习模型,具有广泛的应用前景。
技术关键词
模型参数优化方法 参数优化系统 参数更新模块 系统模块 模型训练模块 深度学习框架 更新模型参数 数据收集模块 深度学习模型 数据处理技术 动态 复杂度 速度 规模
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号