摘要
本发明涉及自然语言处理技术与法律判决预测(LJP)领域,提出了一种基于BERT模型、关键词提取和交叉注意力机制的方法。具体而言,该方法包括:首先,将案件事实描述输入到基于Transformer的关键词提取模型中,提取出法律事实关键词,并将其输入BERT模型以获得向量表示;接着,利用交叉注意力机制将法典语义融入模型,从而对罪名预测、法条预测(分类任务)以及刑期预测(回归任务)进行预测。本发明通过提取上下文相关的关键词并嵌入BERT模型,同时采用交叉注意力机制纳入法典语义,有效解决了传统方法难以准确捕捉关键事件信息的问题,从而提升了LJP各子任务的预测准确性。
技术关键词
BERT模型
关键词提取方法
关键词提取模型
交叉注意力机制
序列
案件
判决预测方法
解码器
编码器
数据
生成关键词
定义
语义向量
代表
自然语言
线性
标记
系统为您推荐了相关专利信息
预测监控系统
GRU模型
PCA算法
多参数传感器
协方差矩阵
时间序列预测模型
多模态
语义
多头注意力机制
长短期记忆网络
故障预测方法
多模型融合方法
序列
滑动时间窗口
芯片