摘要
本发明属于自然语言处理技术领域,具体涉及一种基于BERT_BiLSTM的中文摘要分类研究方法。通过对中文摘要数据进行预处理,并按摘要类型打标签;搭建基于BERT_BiLSTM的中文摘要模型;将打上标签的摘要输入到BERT_BiLSTM模型训练,经过轮次训练对测试数据进行分类测试,得到分类结果。BERT_BiLSTM模型通过BERT预训练后的摘要语句转成词向量序列,利用机器可读的数字矩阵代表摘要语句,因此不需要大量测试数据样本就可以获得较好的效果,且BERT预训练模型学习了大规模文本数据,具有较好的可迁移性,结合自己的训练数据进行摘要语句学习训练,因此对于测试数据更具鲁棒性。
技术关键词
摘要
BiLSTM模型
多头注意力机制
大规模文本数据
矩阵
语句
前馈神经网络
上下文特征
中间层
子模块
打标签
自然语言
元素
分类器
鲁棒性
系统为您推荐了相关专利信息
谣言检测方法
语义特征
注意力机制
矩阵
融合特征
图像三维重建方法
骨科
关键点
图像三维模型
参数校准
风险预测方法
节点特征
异质
神经网络模型
风险预测模型