基于知识蒸馏驱动的自适应去中心化小样本联邦学习框架

本发明属于联邦学习技术领域，涉及一种基于知识蒸馏驱动的自适应去中心化小样本联邦学习框架，首先，提出了基于知识偏移的策略，通过衡量学生模型与教师模型间的知识偏移度，优化各节点的本地模型更新，减少模型间差异，提升整体性能；其次，利用图神经网络构建节点间的邻居关系图，指导知识蒸馏过程，增强模型的泛化能力；最后，设计了一种自适应频率调整算法，根据模型偏移度和通信成本动态调整模型更新频率，以减少不必要的通信开销并提升训练效率；该框架在Mini‑ImageNet和Tiered‑ImageNet数据集上相比传统联邦学习方法显著提高了分类准确率并减少了通信成本。