摘要
本发明实施例公开了化工场景大模型的自动化构建方法、系统及介质;方法包括:获取化工场景微调数据集;使用大模型参数量开源基座模型,利用化工场景微调数据集进行一次完整训练,完成微调过程,得到化工场景大模型参数量开源基座模型;按照小参数量开元基座模型的相关配置,在化工场景大模型参数量开源基座模型的模型结构节点设置衰减参数;针对设置的衰减参数,设置衰减策略,根据化工场景微调数据集的训练步数训练化工场景大模型参数量开源基座模型,完成一次完整训练;将训练后的化工场景大模型参数量开源基座模型进行剪枝,得到小参数量化工场景模型。
技术关键词
自动化构建方法
化工
场景
基座
自动化构建系统
模型训练模块
参数
策略
节点
数据获取模块
介质
计算机
线性
网络