摘要
本申请实施例提供了一种文本处理方法、装置、设备以及介质,该方法可应用在文本内容理解场景中,用于提高摘要生成质量。方法包括:获取第i次迭代的参考模型、待训练模型和文本训练集;在第i次迭代中,将文本训练集内的训练样本中的原始文本输入至参考模型进行前向计算,得到参考预测文本;将原始文本输入至待训练模型进行前向计算,得到样本预测文本;根据参考预测文本、样本预测文本、训练样本中的正摘要文本和负摘要文本,修正第i次迭代的待训练模型的参数,得到第i次迭代的摘要生成模型;对样本预测文本进行修正得到样本修正文本,将原始文本、样本预测文本、样本修正文本封装为新增样本,将新增样本添加至第i+1次迭代的文本训练集。
技术关键词
注意力
摘要
子组件
样本
文本处理方法
训练集
矩阵
影视剧
输出特征
变换特征
计算机设备
文本处理装置
训练语言模型
处理器
参数
网络结构
可读存储介质
存储计算机程序
系统为您推荐了相关专利信息
新能源发电功率
概率预测方法
模糊特征
XGBoost模型
集合经验模态分解
注意力
眼动数据
驾驶控制方法
自动驾驶状态
机器人
态势感知方法
编码模块
编码特征
多头注意力机制
电器设备