摘要
本发明提供了一种基于个性化增强与共享自适应的个性化联邦学习方法,将Transformer模型中的共享模块参与联邦聚合,促进各个客户端的知识迁移,将个性化模块保存在客户端本地,提升对异构数据的适应能力;在个性化模块内引入Lora低秩适配器,仅上传Lora参数,避免全局聚合导致特征表达同质化,将初始全局共享模块参数与共享模块的本地参数进行自适应融合,有效缓解模型解耦引发的语义偏移,从而在提升泛化性能的同时保持本地模型的稳定性与适应性;通过基于Lora参数对各客户端执行动态增量聚类,在个性化模块中挖掘具备跨客户端迁移价值的共享特征表示,降低了计算开销并增强同类客户端间的个性化知识共享与迁移能力。
技术关键词
联邦学习方法
客户端
参数
模块
动态增量
前馈神经网络
服务器
适配器
医疗影像数据
深度优先搜索
表达式
邻居
聚类
注意力
异构
语义
顶点
矩阵
节点
系统为您推荐了相关专利信息
Revit二次开发
赋值方法
自定义参数
批量
生成表格
高精度信号发生器
参数校正方法
分段
频率
动态校正
表面网格模型
电驱系统
摩擦力矩
仿真方法
减速器齿轮
信道估计值
信道估计系统
信道估计模型
傅里叶变换处理
信道估计方法