一种基于Longformer_BERT模型的语义选取方法

AITNT
正文
推荐专利
一种基于Longformer_BERT模型的语义选取方法
申请号:CN202510021850
申请日期:2025-01-07
公开号:CN119849507A
公开日期:2025-04-18
类型:发明专利
摘要
本发明涉及文本选取技术领域,且公开了一种基于Longformer_BERT模型的语义选取方法,本发明通过对新闻文本进行系统性预处理,提升文本数据的结构化程度,为后续语义分析提供更为清晰、准确的输入;引入Longformer_BERT模型进行语义特征提取,使得本发明能够深入挖掘文本中的潜在语义信息,动态捕捉上下文依赖关系,从而更准确地理解文本的真实含义;且本发明在少量的关键token引入全局注意力,捕捉长文本中重要上下文语义信息,增强对文本深度信息理解,避免了传统方法在处理长文本时可能出现的计算效率低下和语义信息丢失的问题,进一步提升了文本分析的准确性和可靠性;实现对新闻文本高效、准确的文本语义特征提取,为虚假新闻检测等应用场景提供了有力的技术支持。
技术关键词
BERT模型 上下文语义信息 语义特征提取 语义特征选取 动态加权方法 停用词表 分块 滑动窗口 文本特征向量 选取技术 标记 语义向量 注意力机制 序列 数据 索引 策略
系统为您推荐了相关专利信息
1
勘察设计企业资产多元异构数据融合与知识图谱构建方法
知识图谱构建方法 多元异构数据 抽取结构化数据 构建知识图谱 BERT模型
2
一种基于大数据的刑事经济法律条文快速匹配系统
智能匹配模块 特征提取模块 权限管理模块 大数据 数据采集模块
3
一种融合大型语言模型的城市交通出行评价方法及系统
城市交通出行 综合评价指标体系 文本 评价方法 情感类别
4
基于车载前视影像的驾驶员注意力预测方法及系统
车载前视 注意力 融合特征 语义分割神经网络 影像
5
一种基于公开大模型进行语义分割数据集标注的方法
文本 多尺度特征融合 层级 语义 特征融合技术
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号