一种基于混合稀疏注意力神经网络的文本生成方法

本发明提供一种基于混合稀疏注意力神经网络的文本生成方法，涉及自然语言处理技术领域，该方法为对文本采集数据集进行分词处理，分别得到训练集、验证集和测试集；利用混合稀疏注意力机制，构建文本生成神经网络；将训练集输入文本生成神经网络，利用自回归和自编码进行训练，得到训练好的文本生成神经网络；将验证集和测试集输入训练好的文本生成神经网络，利用推理时间、显存占用和困惑度三个指标进行性能评估，得到最终的文本生成神经网络；其中，最终的文本生成神经网络用于对文本采集数据进行分析，得到文本生成结果，完成基于混合稀疏注意力神经网络的文本生成。本发明解决了长文本数据计算复杂度高和资源消耗大的问题。