摘要
本申请提供了一种文本处理方法及相关装置;方法包括:基于文本处理模型的上下文窗口长度和第一文本的文本长度,确定第一文本在多个第一位置编码范围对应的第一位置编码函数;文本长度大于上下文窗口长度;通过第一位置编码函数,基于第一位置编码范围对第一文本的特征向量进行分段压缩,得到第一文本的第一位置编码向量;第一位置编码向量对应的文本长度小于或等于上下文窗口长度;通过文本处理模型,对第一位置编码向量进行处理,得到第一文本的处理结果。通过本申请实施例能够实现对超过模型上下文窗口长度的文本的有效处理,提高模型处理准确性。
技术关键词
文本处理模型
编码向量
文本处理方法
计算机可执行指令
注意力
计算机程序产品
可读存储介质
元素
文本处理装置
分段
电子设备
处理器
存储器
数值
模块
系统为您推荐了相关专利信息
结构优化方法
人工蜂群算法
节点特征
注意力机制
关系网络
命名实体识别模型
点识别方法
多层感知机
文本
注意力机制
时序特征
频域特征
振动特征
旋转机械故障检测
残差网络
局部特征信息
注意力机制
图像
空间特征信息
高层语义特征
信号感知方法
音频场景识别
残差模块
短时傅里叶变换
一维卷积神经网络