基于模型模块化与模型合并的神经网络模型协同演化方法

AITNT
正文
推荐专利
基于模型模块化与模型合并的神经网络模型协同演化方法
申请号:CN202510980096
申请日期:2025-07-16
公开号:CN120805989A
公开日期:2025-10-17
类型:发明专利
摘要
本发明提供基于模型模块化与模型合并的神经网络模型协同演化方法,属于人工智能领域。包括:(1)基于梯度搜索的模型模块化分解。通过权重保留率指标和在领域预训练集上的性能指标,共同优化,从预训练模型中提取功能相关的稀疏模块。(2)模块在下游任务上,只针对特定权重进行更新,从而针对特定领域进行知识更新。(3)基于模型合并的知识融合。通过对微调后模块与预训练模型权重相减,直接获取到稀疏的任务向量,然后多个模块之间的稀疏权重更新矩阵加回预训练权重,从而得到多任务全局模型。本发明明确了神经网络参数与功能的映射关系,提升了模型协同演化效果,缓解了多任务学习中的参数冲突。
技术关键词
协同演化方法 神经网络模型 多任务 模块 掩码矩阵 神经网络参数 梯度下降算法 专属数据 门控技术 白名单 预训练模型 梯度下降法 权重数 搜索方法 指标 混合层 定义 优化器 策略
系统为您推荐了相关专利信息
1
一种面向通信网络基站资源调度的在线多任务优化方法
基站资源调度 面向通信网络 任务调度模型 多任务 在线
2
一种可逆人脸匿名化模型的训练方法、可逆人脸匿名化方法及相关产品
密码 匿名化方法 人脸身份 加权损失函数 高斯混合模型
3
一种智能机械臂末端执行器
智能机械臂 末端执行器 抓取模块 机械爪 柔性聚合物
4
一种AC TO AC降压式斩波纯正弦波变压插座
主控单元 滤波模块 斩波模块 正弦波交流电压 继电器模块
5
考虑可再生能源出力不确定性的能量和备用协同调度方法
可再生能源 协同调度方法 序列线性规划 概率分布函数 高斯混合模型
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号