基于大语言模型的有害知识图谱构建与有害信息识别方法

本发明提出了一种基于大语言模型的有害知识图谱构建与有害信息识别方法，有效降低了大语言模型有害信息识别时的假阳性率。首先收集标注好的数据集并进行数据预处理得到初始数据；然后利用大语言模型解释文本内容有害的原因，进而提取出核心三元组，最后再检查提取的三元组是否传递了有害信息，在经过节点去重之后组成有毒知识图谱；接着引入图检索增强生成，对于待判断文本，首先由大语言模型进行实体提取，然后在图上进行检索，找到相关的子图，给大语言模型提供相关的背景知识；最后在模型推理时，进行判别和解释。本发明通过大语言模型构建了有害信息的知识图谱，提高了有害信息识别准确率，缓解了大语言模型在有害信息识别时过于敏感的问题。