基于注意力引导特征蒸馏和原型对比对齐的联邦学习方法

AITNT
正文
推荐专利
基于注意力引导特征蒸馏和原型对比对齐的联邦学习方法
申请号:CN202510004062
申请日期:2025-01-02
公开号:CN119416915B
公开日期:2025-05-16
类型:发明专利
摘要
本发明公开了基于注意力引导特征蒸馏和原型对比对齐的联邦学习方法,通过结合注意力引导的特征蒸馏和原型对比对齐机制实现了在保护客户端隐私的同时提升联邦学习模型的个性化和泛化性能的功能。注意力引导的特征蒸馏技术用于解决历史信息遗忘问题,通过利用前一轮的本地特征提取器作为教师模型,并结合注意力机制指导新学生模型的学习,有效保留和传承客户端的个性化历史知识。原型对比对齐技术解决个性化与泛化之间的冲突问题,通过调整全局原型和本地原型之间的关系,并采用原型对比学习损失和原型对齐损失,增强模型在不同客户端数据上的区分能力,从而在保持个性化准确度的同时提高模型的泛化性能。
技术关键词
原型 联邦学习方法 全局特征提取 标签 特征提取器 蒸馏 服务器 学生 教师 数据 注意力机制 联邦学习模型 保护客户端 样本 通道 分类器参数 表达式 跨层特征
系统为您推荐了相关专利信息
1
展示柜多场景快速切换的布置方法
展示柜 透光率可调 多场景 布置方法 磁吸模块
2
一种基于迁移学习异常工况下的航电系统故障预测方法
系统故障预测方法 故障预测模型 航电系统 多元线性回归模型 多源异构数据
3
一种基于图数据库的地理实体应用平台的构建方法
地理实体 图元 关系 测绘地理信息技术 对象
4
一种无源土壤温湿度测量的电子标签及其使用方法
土壤温湿度传感器 NFC芯片 电子标签 读写设备 探针
5
一种基于语言模型的小说筛选方法、装置及相关组件
筛选方法 文本 注意力 可读存储介质 标签
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号