基于上下文记忆嵌入的文本生成方法和系统

本发明涉及大语言模型算法技术领域，揭露了一种基于上下文记忆嵌入的文本生成方法和系统，该方法包括：利用预设的大语言模型对上下文文本进行文本记忆压缩，得到文本压缩特征；利用所述大语言模型对所述文本压缩特征进行特征嵌入转换，得到记忆嵌入特征；根据所述记忆嵌入特征对所述大语言模型进行双任务预训练，得到预训练大语言模型；利用所述预训练大语言模型对预设的目标文本进行推理解码，得到解码文本。通过本发明实施例的压缩器、转换器以及推理解码结构，可以提高大语言模型的文本推理效率。