一种基于高斯离散嵌入的单词语义表示方法

本发明公开了一种基于高斯离散嵌入模型的单词语义表示方法，包括以下步骤：S1、高斯分布扩展词嵌入；使用变分自编码器(VAE)生成单词的词嵌入；S2、将S1步骤中生成的连续词嵌入映射到离散嵌入集合；使用向量量化技术，通过最近邻搜索算法选择最接近的离散词向量；S3、基于S2步骤生成的离散词嵌入与S1步骤中的连续词嵌入进行残差连接和归一化处理；S4、将S3步骤得到的归一化词向量输入到下游任务中；S5、计算并优化模型的总损失函数；所述损失函数包括VAE的重构损失、量化损失和任务特定损失。通过上述步骤，本发明实现了对单词语义的多层次表示，提升了自然语言处理任务的性能，尤其在处理多义词时具有显著优势。