摘要
本发明涉及一种面向非均衡模态的联邦大小模型协同任务增强方法,包括:获取服务器侧生成均衡的多模态数据,将多模态数据分别输入不同小模型,获取输出表征;小模型利用训练集训练获得;训练集包括:设备故障数据集;在利用训练集训练小模型的过程中,利用小模型联合训练跨模态异常检测模型作为大模型,采用双向知识蒸馏机制在小模型与大模型以及不同小模型之间进行知识蒸馏,并引入动态权重聚合策略更新全局模型参量。本发明有效解决了联邦学习中模态分布不均衡与隐私泄露问题,提升了跨模态任务的模型性能与泛化能力,适用于智能制造、工业检测等需求场景。
技术关键词
设备故障数据
训练集
策略更新
文本
多模态
蒸馏
图像
服务器
跨模态
图文
动态
报告
机制
样本
场景
工业
系统为您推荐了相关专利信息
深基坑支护桩
多头注意力机制
变形预测方法
特征提取模块
长短期记忆网络
视频动作检测方法
时序特征
神经网络模型
上采样
训练集
超参数
降维特征
权重模型
三次样条插值法
随机搜索方法
自动编码器
声学超结构
训练集数据
曲线
结构设计装置
敏感信息过滤方法
文本
语义
脱敏规则
信息过滤装置