摘要
本发明涉及模型训练技术领域,具体公开了一种大小模型协同训练的方法及其系统。包括获取采集训练任务相关的多维度特性数据,并基于预设的模态分析策略对数据的模态构成信息按训练进程阶段进行剖析,根据多模态融合型数据模态类别获取其对应的大模型优势参数与小模型优势参数,根据大模型优先训练的预估耗时和小模型优先训练的预估耗时确定训练耗时比例系数,从而对小模型和大模型进行调配。本发明解决了传统方法中因缺乏系统性分析而盲目选择模型导致的资源不合理分配问题,避免了大模型处理小数据量或简单任务时的资源冗余,以及小模型处理复杂多模态大数据时的性能瓶颈。
技术关键词
模态分析
格式
总量
规模
多模态特征
多模态大数据
参数
模型训练技术
组织
模块
进程
阶段
周期
策略
处理器
计算机设备
可读存储介质
系统为您推荐了相关专利信息
数据集构建方法
模型算法
单元测试用例
数据采集模块
交互式工具
文档审核方法
大语言模型
报告
文档审核装置
语言模型技术