摘要
本发明涉及一种面向非均衡模态的联邦大小模型协同任务增强方法,包括:获取服务器侧生成均衡的多模态数据,将多模态数据分别输入不同小模型,获取输出表征;小模型利用训练集训练获得;训练集包括:设备故障数据集;在利用训练集训练小模型的过程中,利用小模型联合训练跨模态异常检测模型作为大模型,采用双向知识蒸馏机制在小模型与大模型以及不同小模型之间进行知识蒸馏,并引入动态权重聚合策略更新全局模型参量。本发明有效解决了联邦学习中模态分布不均衡与隐私泄露问题,提升了跨模态任务的模型性能与泛化能力,适用于智能制造、工业检测等需求场景。
技术关键词
设备故障数据
训练集
策略更新
文本
多模态
蒸馏
图像
服务器
跨模态
图文
动态
报告
机制
样本
场景
工业
系统为您推荐了相关专利信息
空间光调制器
数据处理模块
斯托克斯参数
光源供应模块
宽波段光源
子模块
递归神经网络
司法数据处理
光学字符识别技术
建立分类模型