一种基于混合低秩适配器的异构数据训练方法和系统

AITNT
正文
推荐专利
一种基于混合低秩适配器的异构数据训练方法和系统
申请号:CN202410722391
申请日期:2024-06-05
公开号:CN118734903A
公开日期:2024-10-01
类型:发明专利
摘要
本发明涉及一种基于混合低秩适配器的异构数据训练方法和系统,方法包括以下步骤:获取异构数据集,并输入预先构建的神经网络模型中进行模型训练,以通过训练好的神经网络模型进行数据预测;所述神经网络模型包括配置有混合低秩适配器的卷积层,对配置有混合低秩适配器的卷积层,通过设置两个低秩因子描述低秩适配器的贡献权重,并配置一个共享的初始权重;并分别针对已知目标与未知目标的场景,提出基于梯度的混合低秩适配器与基于路由的混合低秩适配器。与现有技术相比,本发明算法所需计算开销更少,有着更好的鲁棒性与泛用性,且适用于大规模多任务学习场景。
技术关键词
数据训练方法 适配器 神经网络模型 异构 路由器 表达式 多层感知机 训练系统 场景 标识器 图像分割 因子 控制权 多任务 指示器 存储器 鲁棒性 处理器 文本
系统为您推荐了相关专利信息
1
一种基于知识图谱的多视图信息处理方法
图谱 信息处理方法 实体 关系 跨模态
2
一种多层次多环节的心电信号分类识别方法、系统和设备
分类识别方法 频域特征 时域特征 电信号 体表心电图
3
基于机器学习的PSD文件自动还原与处理方法及系统
节点 上下文特征 样式 分类网络 布局
4
水电站设备识别方法、装置、电子设备和存储介质
卷积神经网络模型 图片 拍摄位置信息 水电站设备 识别方法
5
基于分布式跟随策略梯度算法的电动车辆路径规划方法
车辆路径规划方法 节点 注意力机制 充电站 客户
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号