一种基于个性化模型压缩的联邦反向知识蒸馏方法及系统

本发明提出一种基于个性化模型压缩的联邦反向知识蒸馏方法及系统，旨在解决传统方法在通信效率、模型个性化和异构设备适配方面的不足。在该方法中，服务器在下发全局模型的同时，会提供压缩策略的参考模板，客户端在接收到模型后，并不是直接使用原始结构进行本地训练，而是首先依据自身硬件条件、网络带宽、本地数据分布以及输入特征复杂度，对压缩策略进行本地化调整，从而生成适配性更高的个性化模型结构。在压缩过程中，本发明与传统的固定比例压缩方式不同，本发明可以在压缩比例、参数保留位置和精度调整等方面进行自适应优化，使最终生成的个性化模型既能够在本地设备上高效运行，又能在任务性能上保持与原始模型接近的精度。