摘要
本发明提供基于模型模块化与模型合并的神经网络模型协同演化方法,属于人工智能领域。包括:(1)基于梯度搜索的模型模块化分解。通过权重保留率指标和在领域预训练集上的性能指标,共同优化,从预训练模型中提取功能相关的稀疏模块。(2)模块在下游任务上,只针对特定权重进行更新,从而针对特定领域进行知识更新。(3)基于模型合并的知识融合。通过对微调后模块与预训练模型权重相减,直接获取到稀疏的任务向量,然后多个模块之间的稀疏权重更新矩阵加回预训练权重,从而得到多任务全局模型。本发明明确了神经网络参数与功能的映射关系,提升了模型协同演化效果,缓解了多任务学习中的参数冲突。
技术关键词
协同演化方法
神经网络模型
多任务
模块
掩码矩阵
神经网络参数
梯度下降算法
专属数据
门控技术
白名单
预训练模型
梯度下降法
权重数
搜索方法
指标
混合层
定义
优化器
策略
系统为您推荐了相关专利信息
基站资源调度
面向通信网络
任务调度模型
多任务
在线
密码
匿名化方法
人脸身份
加权损失函数
高斯混合模型
智能机械臂
末端执行器
抓取模块
机械爪
柔性聚合物
主控单元
滤波模块
斩波模块
正弦波交流电压
继电器模块
可再生能源
协同调度方法
序列线性规划
概率分布函数
高斯混合模型