摘要
本发明涉及一种支持异构模型架构搜索与零样本知识融合的联邦学习方法。其包括:提供待进行联邦学习的联邦学习系统,配置联邦学习系统进行联邦学习时,任一客户端执行教师模型生成处理时,基于所述客户端内的本地私有数据,搜索并生成与所述客户端最优匹配的神经网络本地教师模型,且将生成的神经网络本地教师模型发送至所连接的服务器内,服务器执行学生模型生成处理后,至少生成全局共享学生模型,其中,生成全局共享学生模型时,利用所述伪监督训练数据集蒸馏训练构建的基础学生模型,并在对基础学生模型蒸馏训练后生成全局共享学生模型。本发明能有效支持客户端的异构模型,提高个性化的能力与隐私保护,降低通信成本,且模型泛化性优。
技术关键词
联邦学习方法
教师
客户端
联邦学习系统
学生
随机噪声
服务器
粒子
异构
标签
噪声图像
样本
蒸馏
生成机制
基础
数据
生成神经网络
度量
系统为您推荐了相关专利信息
学生
知识蒸馏方法
关键词
大语言模型
计算机程序产品
中心服务器
客户端
强化学习模型
联邦学习方法
缓冲池