摘要
本发明公开了一种面向零样本关系抽取的语义蒸馏方法,包括以下步骤:S1:将输入的句子生成实体和上下文的表示向量;S2:将输入的关系描述生成其实体和上下文表示向量;S3:通过双向语义蒸馏器弱化上下文表示中的无关特征,并强化相关特征;S4:利用同一批次中不同上下文表示的增强表示来进行对比学习;S5:通过细粒度语义匹配模块对输入句子的实体、上下文表示与关系描述中的实体、上下文表示进行细粒度匹配。能够有效应对复杂上下文干扰,提升对不同语义边界的泛化能力。
技术关键词
蒸馏方法
实体
样本
语义
注意力机制
生成关系
编码器
掩码策略
序列
矩阵
蒸馏器
令牌
标记
匹配模块
元素
分类器
字词
系统为您推荐了相关专利信息
指针分析方法
动态指针
键值对存储结构
内存泄漏检测
传播算法
广告投放策略
跨平台广告投放
协同管理方法
深度强化学习算法
网络信息提取
行人意图识别方法
序列
空间关系特征
卷积模块
对象