摘要
本发明涉及金融行业领域,且公开了基于预训练大模型的行业模型优化方法,包括利用多语种预训练模型,针对不同地区的金融文本,进行时间表达习惯的建模,通过结合上下文对齐和对比学习机制,提取时间语义的跨文化共性特征;在识别时间表达方式后,构建时间语义增强模块,通过聚合上下文中的时间线索进行建模;在获得标准化的时间语义后,引入动态特征融合机制,将解析出的标准化时间信息与金融文本中的关键实体信息进行有效对齐;利用联合嵌入表示构建时间节点驱动的事件依赖关系图,通过图结构对推理出的事件顺序进行逻辑一致性校验;根据训练反馈信号,结合金融行业的特定数据对预训练模型进行微调。本发明具备提高模型理解能力的优点。
技术关键词
模型优化方法
预训练模型
金融
文本
实体
消除语言差异
逻辑
关系预测模型
注意力机制
图谱
生成事件
语法结构
语义向量
线索
语义特征
标记
信号
系统为您推荐了相关专利信息
诊断方法
节点
Neo4j数据库
多元回归模型
贝叶斯网络推理
智能识别用户
案件
预训练模型
嵌入式系统控制
计算机可存储介质
相似性检测方法
多层感知机
节点
BERT模型
分层