一种基于大语言模型上下文压缩的长文本生成方法

本发明提供一种基于大语言模型上下文压缩的长文本生成方法，方法包括：获取待压缩的上下文文本以及提示词文本，并进行基于压缩的编码处理，得到对应的压缩向量以及提示词嵌入向量；将压缩向量与提示词嵌入向量进行拼接，并对拼接得到的融合特征进行基于自回归的解码处理，得到对应的多个token标识符；根据预设的词表，将token标识符逐一地映射为文本字符串，并将文本字符串组成为压缩上下文文本。通过本申请，将大语言模型处理的上下文长文本进行压缩，解决现有技术中语义模型处理长上下文文本时需要消耗巨大的模型计算资源和数据存储资源的技术问题。