一种文本处理方法、装置、电子设备及存储介质

本申请公开一种文本处理方法、装置、电子设备及存储介质，属于自然语言处理技术领域，该方法中，获取待处理文本段输入BERT模型后的序列特征和字词特征，并获取待处理文本段的位置编码，将字词特征和位置编码进行融合得到融合特征，通过多层多头注意力机制对融合特征进行运算，得到注意力分配特征，通过激活函数对注意力分配特征进行处理，得到微观注意力权重，基于注意力分配特征和微观注意力权重，对融合特征进行优化，进而基于序列特征和优化后的融合特征，确定待处理文本段中的实体和实体间的关系，由于优化后的融合特征能够更好地表达待处理文本的语义特征，所以可提升从复杂待处理文本段中抽取实体和实体间关系的效果。