一种基于自注意力机制的特征抽取与摘要生成方法及系统

本发明公开了一种基于自注意力机制的特征抽取与摘要生成方法及系统，包括：收集并构建电网领域的文本数据集，并对文本数据集进行预处理；对文本数据集中的数据进行关联性分析，得到关联数据和独立数据；构建基于多层注意力机制和前馈神经网络堆叠的编码器结构，对关联数据和独立数据中的电网文本数据进行特征抽取；构建基于自注意力机制结合注意力机制的解码器，根据特征抽取所得到的特征向量生成文本摘要。本发明将相关的文本信息进行有效整合和摘要，从而减少信息溶于，提高后续分析的效率和准确信息；能够在不同层次上对文本进行抽象和表示，提高特征的表达能力，进一步提高特征的抽取效果和准确性。