一种结合BTM和Bi_LSTM模型的主题建模和文本预测方法

本发明提供一种结合BTM和Bi_LSTM模型的主题建模和文本预测方法，利用主题注意力模型融合了Bi_LSTM和BTM模型，通过主题注意力层的注意力机制，将Bi_LSTM学习到的序列信息和BTM提取出的主题信息融合在一起，根据当前的输入信息和任务目标，自动调整主题嵌入(at,k，αt)和Bi_LSTM隐藏状态(ht)之间的注意力权重，从而选择最相关的信息进行融合；这种动态权重的分配使得模型在处理文本时不仅能够考虑到词语的序列依赖关系，还能考虑到文本中的主题分布，克服了单一的BTM模型在理解文本深层含义和长期依赖关系方面的局限性和单一Bi_LSTM模型在捕捉文本中的主题结构方面的局限性。