摘要
本发明提出了基于语义增强和知识蒸馏的关系抽取模型构建方法及系统,涉及关系抽取技术领域,针对的问题是:现有技术在处理持续学习时,模型往往难以在学习新关系时保持对旧关系的记忆,导致遗忘;过度依赖少量数据易导致模型过拟合,从而无法有效泛化到新的关系。该方法:获取训练样本和典型样本的关系原型,对其进行语义增强,得到扩张后的增强数据集和增强内存集,基于学生模型和多教师模型,进行特征提取、关系分类预测及关系抽取。本发明通过语义增强技术,有效缓解小样本数据稀缺带来的过拟合问题,通过多教师知识蒸馏方法,降低在持续学习过程中因新关系学习而导致的旧关系遗忘,提高模型在面对不同关系时的分类准确性和泛化能力性。
技术关键词
关系抽取模型
教师
学生
输出特征
样本
典型
内存
记忆
原型
关系抽取技术
知识蒸馏方法
语义实体
计算机装置
特征提取模块
数据获取模块
系统为您推荐了相关专利信息
巡检设备
故障巡检
变电站故障
三维场景模型
预警方法
蒙特卡洛树搜索
中药
资源
ReLU函数
上限置信区间算法
样本生成方法
遗传算法
静态特征
恶意代码检测系统
布局
船舶导航方法
规划
轮廓信息
单源最短路径
空间金字塔