一种面向均衡模态的联邦大小模型协同任务增强方法

AITNT
正文
推荐专利
一种面向均衡模态的联邦大小模型协同任务增强方法
申请号:CN202510751754
申请日期:2025-06-06
公开号:CN120596951A
公开日期:2025-09-05
类型:发明专利
摘要
本发明公开了一种面向均衡模态的联邦大小模型协同任务增强方法,包括:获取本地数据集;基于所述本地数据集,对服务器侧数据进行增强,获取增强数据集;基于所述增强数据集,更新用户侧小模型;基于所述用户侧小模型,更新大模型调节器,所述大模型调节器用于和小模型进行知识双向蒸馏;根据所述大模型调节器和所述增强数据集,对服务器侧调节器和本地适配器进行更新。本发明能够解决在采用联邦学习进行大小模型协同训练过程中所面临的一系列关键问题,包括用户侧数据分布不一致(非独立同分布)、大小模型之间知识交互效率低以及多模态数据利用不均衡等。
技术关键词
调节器 适配器 服务器 蒸馏 网络主体 聚类 数据分布 多模态 参数 标签
系统为您推荐了相关专利信息
1
一种利用公有云远程访问海外CRM的系统及方法及存储介质
公有云 远程访问功能 验证数据传输 计算机可读存储设备 合规性
2
基于神经网络决策蒸馏的配电网负荷转供控制方法和系统
负荷转供 神经网络模型 决策树模型 知识蒸馏技术 电力系统分析工具
3
一种基于知识蒸馏的单流轻量化目标跟踪方法
模板特征 图像分类模型 图像块 蒸馏 编码器模块
4
云边端协同的实时皮革质量检测轻量化模型动态部署方法
动态部署方法 皮革设备 皮革生产线 模型训练模块 数据采集模块
5
一种电力系统稳定器低频振荡抑制能力提升方法及系统
电力系统稳定器 能力提升方法 励磁调节器 仿真平台 动态权重分配
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号