摘要
本申请实施例提供了参数优化方法、设备及计算机可读介质,该方案通过将低秩矩阵与稀疏性约束相结合的方式,在迭代更新过程中基于敏感度对低秩矩阵进行剪枝处理,从而实现矩阵的稀疏化,保留敏感度较高的重要参数,使得预训练权重矩阵中的参数更新有选择性和精细化,提升了训练的稳定性和效率,并且可以保证特定领域知识的完整性,有效避免知识冲突和遗忘,使得训练后的模型性能更好。
技术关键词
矩阵
计算机程序指令
参数优化方法
元素
梯度下降算法
存储计算机程序
处理器
定义
介质
动态
存储器
阶段
数据
系统为您推荐了相关专利信息
飞行器探测方法
交互式多模型算法
运动
矩阵
探测系统
单线激光雷达
粒子
栅格地图
里程计
机器人运动学模型
稠密点云
融合方法
Harris角点检测算法
图像
地图
数据安全
报文
动态加密算法
车载网络通信技术
汽车