摘要
本发明提出了一种基于参数正则与动态内存的持续学习数据空间关系抽取方法及其系统,属于知识图谱技术领域,使用BERT预训练语言模型作为编码器、模型参数正则化、动态内存构建、内存样本数据增强技术,维持旧任务中样本的嵌入空间表示从而保留旧关系知识,并优化内存选取策略,高效利用有限内存空间;解决了现有方法没有考虑编码器参数变化引发的旧样本嵌入空间偏差与典型样本选取策略不合理的问题,本发明还考虑增加样本内存集的多样性,几乎不增加时间复杂度的情况下提升了模型的预测准确率。本发明适用于知识图谱数据空间构建领域中持续学习关系抽取技术。
技术关键词
关系抽取模型
关系抽取方法
样本
关系抽取系统
内存
实体间关系
自定义参数
训练集数据
损失计算方法
关系抽取技术
知识图谱数据
知识图谱技术
联合损失函数
训练语言模型
模块
编码器参数
系统为您推荐了相关专利信息
生成对抗网络
银行交易数据
样本
模型训练方法
交易数据检测方法
内存条
智能平台管理接口
可编程只读存储器
输出输入系统
端口
检测分析系统
高光谱图像数据
注意力机制
氧量
显微镜