一种异构设备感知的自适应联邦学习微调方法

一种异构设备感知的自适应联邦学习微调方法，包括：基于设备实时计算能力与网络状态，通过整数规划优化动态调整各设备LoRA秩，约束单设备时间消耗并最小化全局延迟，实现高算力设备提升秩以增强贡献、低算力设备降秩以避免通信瓶颈。本地设备根据分配秩对冻结预训练模型进行微调生成异构LoRA模型，服务器采用分层聚合策略，按升序对齐不同秩参数并仅对共有维度进行加权平均聚合，权重由本地数据量与秩平方共同决定，规避高维矩阵运算，显著降低服务器计算复杂度。聚合后全局模型通过矩阵切片裁剪适配各设备目标秩，减少冗余传输。迭代执行直至模型收敛。通过动态分配低秩适配LoRA秩与高效聚合机制解决了联邦学习中静态资源分配导致的效率低下问题。