摘要
本发明涉及一种基于局部特征投影的招聘场景语义匹配方法及其系统,其以BERT架构的预训练语言模型为基座,冻结除最后一层外的所有参数;基座模型的最后一层输出端接入CNN模块,该CNN模块包括通过权重生成器动态融合CNN模块输出与基座模型最后一层的CLS token向量,学习训练完成后移除CNN模块及权重生成器,仅保留优化后的基座模型最后一层参数,以CLS token向量作为语义匹配的句子表征。由此,采用动态门控融合机制与残差融合设计。能够在保留原始语义的同时,通过辅助模块优化BERT的CLS token的特征表达能力,令CNN模块提取的特征与CLS表征动态融合、联合优化。
技术关键词
语义匹配方法
训练语言模型
基座
语义匹配系统
文本
样本
场景
动态门控
投影模块
通道
度函数
对抗性
超参数
多尺度
训练集
噪声
系统为您推荐了相关专利信息
智能设备
审核规则
辨识模块
数据可视化
监控操作过程
数据审核系统
大语言模型
参数
预警模块
身份验证