摘要
本发明提供一种关键语义保持的句子语义匹配方法及装置,涉及自然语言处理技术领域;方法包括:训练句子语义匹配模型,包括编码器提取待匹配句子对的编码语义表示和聚合语义表示,特征聚合器对编码语义表示进行聚合计算得到弱相关特征,特征蒸馏层将聚合语义表示映射到与弱相关特征正交的空间,得到关键语义特征,分类层对关键语义特征进行分类得到匹配结果;对聚合语义表示、弱相关特征和关键语义特征进行损失计算,根据总损失优化训练后的句子语义匹配模型。通过从句子对中筛选出与语义主旨呈弱相关的特征,基于投影定理剔除语义特征中冗余的噪声信息,根据保留的关键语义特征生成句子对的语义匹配结果,以训练出优化句子语义匹配模型。
技术关键词
语义匹配方法
编码器
关系分类器
注意力机制
蒸馏
噪声特征
语义特征提取
噪声信息
自然语言
参数
模块
表达式
冗余
矩阵
系统为您推荐了相关专利信息
智能水温控制方法
智能水温控制系统
控制策略
时序
长短期记忆网络
视觉特征
视频异常检测方法
时序依赖关系
文本
时序特征
轴向移动机构
机械臂气缸
夹紧活塞
X轴电机
夹取机构
康复训练系统
康复训练装置
预训练模型
电极片
降噪耳机