摘要
本发明提出基于多约束无监督联邦知识蒸馏的数据交易方法,通过构建多种约束条件,logit一致性、批量统计特征和信息熵约束,在确保图像数据隐私的前提下,实现多个教师模型向学生模型高效、精准的知识迁移,且批量级别的统计约束让模型在处理不同批次图像数据时更稳定。此外,数据持有方仅上传训练好的模型参数,不用共享原始图像数据,保障了数据隐私。增强学生模型在图像任务中的性能,解决传统知识蒸馏在图像数据交易中知识传递不充分、模型稳定性差以及多教师知识整合困难的问题,具有较好的应用前景。
技术关键词
统计特征
教师
数据交易方法
学生
二阶特征
损失计算方法
信息熵
批量
无监督
蒸馏
Adam算法
原始图像数据
参数
定义
样本
误差
系统为您推荐了相关专利信息
学习算法
决策树模型
标签
统计特征提取
网络设备配置文件
电子书控制方法
多媒体
教师
文本
梅尔频率倒谱系数