语言模型的知识传递方法、知识推理方法及装置

本公开提供一种语言模型的知识传递方法、知识推理方法及装置，所述知识传递方法包括：获取预训练好的第一语言模型和第二语言模型；从所述第一语言模型的模型参数中抽取与目标推理任务相关的第一参数；根据第二语言模型的模型参数，将第一参数对齐到第二语言模型的参数空间，得到第二参数；基于所述第二参数，调整所述第二语言模型的模型参数，得到调整后的第二语言模型。本公开可以解决跨规模语言模型之间的知识传递效率和准确性存在局限的问题，实现跨规模语言模型之间高效、准确的知识传递。