摘要
本发明公开了一种面向均衡模态的联邦大小模型协同任务增强方法,包括:获取本地数据集;基于所述本地数据集,对服务器侧数据进行增强,获取增强数据集;基于所述增强数据集,更新用户侧小模型;基于所述用户侧小模型,更新大模型调节器,所述大模型调节器用于和小模型进行知识双向蒸馏;根据所述大模型调节器和所述增强数据集,对服务器侧调节器和本地适配器进行更新。本发明能够解决在采用联邦学习进行大小模型协同训练过程中所面临的一系列关键问题,包括用户侧数据分布不一致(非独立同分布)、大小模型之间知识交互效率低以及多模态数据利用不均衡等。
技术关键词
调节器
适配器
服务器
蒸馏
网络主体
聚类
数据分布
多模态
参数
标签
系统为您推荐了相关专利信息
公有云
远程访问功能
验证数据传输
计算机可读存储设备
合规性
负荷转供
神经网络模型
决策树模型
知识蒸馏技术
电力系统分析工具
动态部署方法
皮革设备
皮革生产线
模型训练模块
数据采集模块
电力系统稳定器
能力提升方法
励磁调节器
仿真平台
动态权重分配