面向大规模语言模型的超长文本序列的处理方法、装置

本申请涉及自然语言处理技术领域，公开一种面向大规模语言模型的超长文本序列的处理方法、装置。方法包括：文本序列预处理：用于对输入的超长文本序列进行预处理，包括动态序列分割与自适应序列重排，将所述超长文本序列分割成多个连续且重叠的块，并过滤掉无关噪声；构建超长文本序列处理网络：基于Transformer架构构建一个处理网络以处理经过预处理的文本序列块；分块并行处理与融合：将所述文本序列块进行分块并行处理，并将处理结果进行融合；持续学习与反馈循环：用于根据处理结果动态调整处理策略，并反馈给文本序列预处理步骤。