摘要
本发明属于自然语言处理技术领域,具体涉及一种基于BERT_BiLSTM的中文摘要分类研究方法。通过对中文摘要数据进行预处理,并按摘要类型打标签;搭建基于BERT_BiLSTM的中文摘要模型;将打上标签的摘要输入到BERT_BiLSTM模型训练,经过轮次训练对测试数据进行分类测试,得到分类结果。BERT_BiLSTM模型通过BERT预训练后的摘要语句转成词向量序列,利用机器可读的数字矩阵代表摘要语句,因此不需要大量测试数据样本就可以获得较好的效果,且BERT预训练模型学习了大规模文本数据,具有较好的可迁移性,结合自己的训练数据进行摘要语句学习训练,因此对于测试数据更具鲁棒性。
技术关键词
摘要
BiLSTM模型
多头注意力机制
大规模文本数据
矩阵
语句
前馈神经网络
上下文特征
中间层
子模块
打标签
自然语言
元素
分类器
鲁棒性
系统为您推荐了相关专利信息
大语言模型
物联网传感器网络
生理传感设备
多模态
NURBS曲面
多相流流量计
动态补偿系统
融合特征
补偿误差
图像特征数据
金属框架
修复方法
三维点云数据
口腔扫描设备
三维牙齿模型