摘要
本发明涉及自然语言处理领域,尤其涉及一种文本对比学习方法及装置。首先,本发明采用了对比学习方法,通过设计特定的损失函数,使得模型在训练过程中能够更好地区分query、正样本和负样本之间的关系。其次,本发明在模型推理阶段,通过计算query与每个候选样本之间的相似度,选择相似度最高的样本作为最终结果。这种方法在许多文本对比任务中,如文本相似度计算、文本分类等,都有很好的应用前景。
技术关键词
样本
学习方法
文本
模型训练模块
编码器
预训练语言模型
处理单元
学习装置
自然语言
阶段
关系
参数
系统为您推荐了相关专利信息
生物技术产品
LSTM模型
信息推荐方法
BERT模型
时间序列特征