摘要
本发明公开了基于深度学习的智慧图书馆文献快速检索方法,具体涉及自然语言处理技术领域,利用预训练的Transformer模型将数据集中的文本数据转换为高维空间中的向量,并将文本数据转化为稠密向量进行特征提取;采用SimCSE模型对相同文本内容在不同Dropout环境下的编码产生正样本对,利用正样本对模型进行无监督训练,从而学习到文本的深层语义表示,最后,再将两个模型进行模型融合策略;而后使用In‑batch Negatives方法,在模型训练过程中利用同一个batch中的其他样本作为负样本,采用基于性能反馈的动态学习率调整机制,根据模型在验证集上的表现自动调整学习率优化训练过程,以加速模型。
技术关键词
快速检索方法
智慧图书馆
样本
文本
融合策略
线性变换矩阵
多头注意力机制
数据
无监督
语义
自然语言
鲁棒性
编码
有效性
动态
模块
系统为您推荐了相关专利信息
医疗影像数据
功能评估方法
肾脏
机器学习模型
样本
多功能超表面
XGBoost模型
频率响应
优化设计方法
LSTM模型
智能布置方法
发动机舱
深度学习模型
标签
横截面切片图像
多任务损失函数
主梁
桥梁建造施工技术
载荷
多尺度特征融合
透视变换矩阵
字幕
生成全景视频
图像匹配
子模块