一种医疗大语言模型的联邦学习系统

本发明实施例涉及一种医疗大语言模型的联邦学习系统，所述系统包括：知识图谱、中心网络和多个机构网络；中心网络用于配置全局的特征映射规则、对基座大语言模型进行首次预训练、每生成一版中心模型参数就将生成并下发对应的版本号+下发模型参数+微调层编号、按均值方式对机构模型参数进行聚合、基于聚合参数生成新版中心模型参数；机构网络则用于在每收到一组版本号+下发模型参数+微调层编号就进行一次本地训练并将训练后的机构模型参数向中心网络上发。通过本发明可以在医疗数据不共享的条件下对医疗大语言模型的泛化能力进行持续性提升。