一种融合多粒度文本语义信息的动量对比学习方法

AITNT
正文
推荐专利
一种融合多粒度文本语义信息的动量对比学习方法
申请号:CN202410774657
申请日期:2024-06-17
公开号:CN118504583A
公开日期:2024-08-16
类型:发明专利
摘要
本发明公开一种融合多粒度文本语义信息的动量对比学习方法,包括:将文本数据输入到预训练的对比学习模型中,得到文本特征表征;其中,所述对比学习模型的训练方法包括:设置模型的超参数,并基于超参数构建对比学习模型;对训练数据进行数据增强,并构建语句和词元级别两种语义粒度的对比学习任务;基于构建的对比学习任务,使用训练数据对对比学习模型进行训练,得到训练后的对比学习模型。通过无监督的训练获得一个高质量的文本表征函数,从而能够将输入的文本数据映射到一个固定维度的特征表征,并可以直接或间接地助力于多个NLP下游任务中。
技术关键词
学习方法 语义 编码器模块 文本 样本 数据 非线性特征 解码器 词典 生成语句 超参数 传播算法 动态 处理器 同义词 计算机设备 无监督
系统为您推荐了相关专利信息
1
一种基于JSON的病历文书的信息展示方法及系统
病历文书 信息展示方法 字段 参数 信息展示系统
2
一种个人信息同人判定的方法、装置和设备
非结构化文本 半结构化文本 计算机程序指令 语义向量 统计特征提取
3
一种文档表格的提取方法、装置、设备及介质
文本 表格 视觉特征编码 校正 序列
4
基于需求分析的模组分拣机控制方法及系统
分拣机 特征识别模块 匹配模块 分拣控制技术 异常数据
5
基于对比学习的多模态医学图像分割方法及设备、介质
医学图像分割方法 融合多模态信息 卷积模块 多模态磁共振图像 锚点
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号