摘要
本发明公开了一种基于适配器的大模型多领域自适应方法及系统,该方法包括:数据收集与预处理,获得训练数据;根据所述的训练数据,选定基座通用大模型和参数微调方法,对大模型进行多次基于适配器的参数微调,获得多个微调好的适配器;使用一个深度神经网络,作为自适应模块,与所述的基座通用大模型、多个微调好的适配器组合成一个基于适配器的大模型多领域自适应网络;使用所述的训练数据对所述的大模型多领域自适应网络中的自适应模块进行训练,获得训练好的自适应模块;根据使用者输入,使用所述大模型多领域自适应网络对其进行推理,获得相应领域的输出。本发明可以在大模型仅增加少量参数的情况下,使得大模型在多个领域进行自适应,无需切换大模型,提升大模型跨领域的适应能力,增强大模型性能。
技术关键词
适配器
微调方法
深度神经网络
基座
模块
计算机存储介质
参数
数据采集单元
预训练模型
样本
处理器
矩阵
代表
系统为您推荐了相关专利信息
射频识别芯片
存储单元
分区管理方法
读写器
口令
嵌入式系统
腐蚀速率预测
深度学习模型
接收系统
状态预测系统
圆柱齿轮齿面
摩擦系数数据
超参数
摩擦系数模型
粗糙度
子系统
空间模拟方法
关系
计算机执行指令
系统动力学模型