一种多矩阵聚合多维特征的医疗大模型迁移训练方法

本发明属于人工智能的技术领域，更具体地，涉及一种多矩阵聚合多维特征的医疗大模型迁移训练方法。所述方法包括所述方法包括：收集专业医学数据，构建专业医学数据集；联邦迁移训练预训练大模型，为其注入具体专业医疗知识，具体包括：对于预训练的Baichuan大模型，初始化低秩矩阵，并量化低秩矩阵和权重；将量化后的低秩矩阵适配到Baichuan大模型的线性层和注意力层；通过多轮次的高效迁移训练从专业医学数据集中提取原始知识、低秩知识以及全局复杂知识三种不同维度的知识；将提取到的三种不同维度的知识进行融合并进行权重聚合。本发明解决了现有训练方法需要大量高质数据和计算资源，在要求更为严格的具体医学场景下表现不佳的问题。