一种基于零阶梯度估计的无数据联邦蒸馏方法和系统

AITNT
正文
推荐专利
一种基于零阶梯度估计的无数据联邦蒸馏方法和系统
申请号:CN202510302811
申请日期:2025-03-14
公开号:CN120197673A
公开日期:2025-06-24
类型:发明专利
摘要
本发明公开了一种基于零阶梯度估计的无数据联邦蒸馏方法和系统,通过中央服务器初始化全局模型和合成图像生成器,在每个通信轮次中生成合成图像样本并传递给客户端,客户端利用本地隐私数据更新本地模型并上传预测结果。中央服务器利用零阶梯度估计技术计算生成器的梯度,更新生成器参数和全局模型参数。通过引入保真度损失、对抗损失、多样性损失和负信息熵损失,优化生成器的性能。生成器的梯度通过零阶梯度估计计算,避免了访问客户端本地模型的需求,有效保护了隐私。全局模型通过最小化知识蒸馏损失进行更新,同时,客户端通过接收集成预测结果,进一步优化本地模型。本发明的优点是:通过减少对客户端隐私数据的访问、降低通信带宽需求。
技术关键词
蒸馏方法 客户端 图像生成器 阶梯 样本 服务器 条件生成对抗网络 信息熵 参数 数据更新 通信带宽 标签 数据分布 噪声 定义 白盒 频率
系统为您推荐了相关专利信息
1
机器人数据处理方法及装置、智慧机器人
机器人数据处理 特征数据查找 控制策略 特征提取模块 样本
2
基于封装引擎实现机器学习和大语言模型的推理加速方法
推理服务器 命令行工具 仓库 文件夹 回调机制
3
基于模态桥接的气象数据集自动构建方法和系统
气象 预训练语言模型 自动构建方法 多模态 图像
4
任务部署方法、装置、电子设备及存储介质
图像搜索 算法模型 图片 语义特征 参数
5
基于脑电信号时间不可逆性的心理状态检测方法及系统
心理状态检测 电信号 序列 模式 数值
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号