摘要
本发明公开了一种面向组学大模型的自动化参数高效微调方法和系统,利用自动机器学习算法,根据新的组学数据分析任务自动设计参数高效微调策略,构建适配的组学大模型,其方法包括:采集组学数据并预处理,以组学大模型为骨干网络,结合预定义的参数高效微调模块构建超网;每一轮从超网中采样一个子架构进行训练,并重复采样与训练直至架构收敛;在搜索阶段,采用基于进化算法的搜索策略,从训练后的超网中随机采样子架构作为初始种群,通过选择、交叉和变异操作生成新种群,重复迭代直至搜索过程收敛,输出性能最佳模型的参数高效微调配置。本发明通过少量的人工操作和专业知识就能为特定的组学分析任务搜索到组学大模型合适的参数高效微调方法。
技术关键词
神经架构搜索
微调方法
参数
网络模块
机器学习算法
模块组合方式
上采样
多头注意力机制
编码模块
微调系统
数据
进化算法
非线性
列表
策略
模型库
输出模块
系统为您推荐了相关专利信息
综合评估模型
信噪比
序列生成技术
背向散射噪声
梯度下降算法
风力发电机组载荷
历史风速数据
动态预测方法
变桨角度
风机转速