持续学习增强的地质领域大语言模型

持续学习增强的地质领域大语言模型，通过专业数据集的构建、领域知识增强的继续预训练以及参数高效微调的方法，显著提升了模型在地质领域下游任务上的表现。通过TG‑MoLE架构，创新性地引入了跨组与组内路由协作机制，通过动态调整的软性路由策略优化专家权重分配，从而提升模型的专家协作能力和任务适应性，能够更有效地缓解灾难性遗忘问题，同时提升地质下游任务上的表现。