摘要
本发明提供一种类别可动态扩展的层次化主题分类持续训练方法,属于自然语言处理领域。本发明针对持续训练时无法完成获取历史训练数据造成神经网络模型遗忘的问题,提出利用可用数据进行标签结构回退模拟历史数据,即在标签结构发生扩展时,对于少量可用的新数据,利用历史标签结构将扩展部分移除,模拟历史训练数据,再将标签回退构造的新数据与可能存在的历史数据混合后,在原有模型的基础上使用混合模型继续训练,得到适应新标签结构的模型。本发明通过标签回退,在历史数据缺失的情况下构造类似数据,缓解持续训练中神经网络模型的遗忘,提升层次化主题分类模型动态扩展标签结构的能力。
技术关键词
标签结构
主题
神经网络模型
数据
动态
阶段
自然语言
基础
文本
系统为您推荐了相关专利信息
优化配置方法
电力系统运行优化
双层优化模型
容量优化系统
电储能
融合特征
雾化设备控制系统
压力
传感器
门控循环单元
机器人控制系统
动作策略
强化学习方法
强化学习算法
深度确定性策略梯度
智慧云平台
空气系统
优化运行参数
管控系统
智能终端