基于通用LoRA和领域专用LoRA多任务混合专家模型微调方法

本发明公开了一种基于通用LoRA和领域专用LoRA多任务混合专家模型微调方法，通过整合通用专家和领域特定专家，并引入残差连接，以平衡模型对一般任务和领域特定任务的处理能力，提高性能和稳定性。本发明实现了参数高效的多任务学习和新领域适配。