摘要
本发明公开了一种结合领域信息的多模态伪造信息检测方法,包括以下步骤:领域信息识别与描述,给大语言模型设计提示学习模板,大语言模型根据提示学习模板生成新闻的领域标签以及对新闻内容的解释;领域信息与多模态特征的交互学习,该步骤包括有特征编码,对原始的文本、领域信息和图像进行编码处理;文本‑领域和图像‑领域的交互特征学习,使用共同注意力机制,学习融入领域知识的文本特征及融入领域知识的图像特征;领域特征的重要性学习,把与领域信息有关的特征拼接一起,并把拼接后的特征输入领域门控神经网络中,计算领域信息的重要性以作为领域特征的权重;特征聚合与分类,把所有特征拼接起来,输入分类器中,完成分类预测。
技术关键词
信息检测方法
门控神经网络
交互特征
文本
注意力机制
矩阵
图像
分类器
大语言模型
模态特征
模板
信息编码
标签
线性
参数
系统为您推荐了相关专利信息
语义向量
情感分析方法
信息瓶颈理论
蒸馏
情感特征
联合损失函数
训练优化方法
信息熵
多任务
超参数