一种基于联邦学习对LLM进行自适应微调的方法

本发明涉及自然语言处理技术领域，具体公开了一种基于联邦学习对LLM进行自适应微调的方法，其基于联邦学习优化全局网络模型，通过分析客户端性能反馈，服务器自适应动态调整客户端模型配置，使模型设计与任务需求高度匹配，显著降低计算和通信开销，同时提升个性化适配性能；服务器在每次迭代中对客户端反馈进行细粒度评估，剔除训练不足的滞后客户端，并利用历史最佳权重补充部分客户端缺失的模型层；模型聚合时，采用基于语义相似度的动态旋转策略，通过智能调整客户端模型层的顺序，减少因层级差异而引起的语义冲突。本发明通过客户端模型自适应调整、服务器‑客户端模型同步和动态旋转策略，显著提高了模型的训练效率和准确性。