一种特征表示的确定方法、装置、设备及存储介质

本申请提供了一种特征表示的确定方法、装置、设备及存储介质，涉及自然语言处理技术领域，该方法包括：获取第一文本单元，并对第一文本单元进行向量化处理，获取第一文本单元对应的向量，第一文本单元为对目标文本分割得到的任意一个文本单元。基于向量，确定第一文本单元对应的键向量、值向量以及权重向量。基于第一文本单元对应的键向量以及值向量，确定第一文本单元对应的注意力表示。基于第一文本单元对应的向量、键向量以及值向量，确定第一文本单元对应的语义状态值。基于第一文本单元对应的注意力表示和语义状态值，确定第一文本单元的特征表示。基于此，该方法能够在分类业务场景下，提高大语言模型对输入文本特征表示的计算效率。