摘要
本发明公开了一种基于无数据驱动的联邦学习知识蒸馏方法,属于联邦学习的个性化更新技术领域。包括:每个客户端构建分类网络和生成对抗网络;服务器端构建全局模型和教师模型;每个客户端对私有数据集进行增强,用于分类网络和生成对抗网络的训练,并将训练后的生成器和分类器模型参数反馈给服务器;服务器端更新全局生成器和全局分类器,并利用蒸馏数据对全局模型和教师模型进行训练,再将优化的全局生成器和全局分类器模型参数下发各客户端。本发明在服务器端利用教师网络的丰富知识指导与全局模型相互学习;在客户端引入MixDistribution数据增强技术进行个性化更新,实现数据的双向流动和知识共享,缓解数据异构造成的问题。
技术关键词
知识蒸馏方法
分类器模型
生成对抗网络
分类网络
客户端
教师
数据
代表
分类器参数
标签
特征提取器
生成噪声
服务器
批量
矩阵
系统为您推荐了相关专利信息
预训练语言模型
缺陷预测方法
条件对抗生成网络
预训练模型
缺陷类别
冲击测试方法
冲击波治疗仪
生成对抗网络模型
关节
PID控制器
校验模型
数据生成系统
自动化测试工具
测试方法
生成业务