一种生成式语言模型的屏蔽词溢出的漏洞检测方法及系统

本发明涉及人工智能技术领域，公开了一种生成式语言模型的屏蔽词溢出的漏洞检测方法及系统，数据采集模块，用于获得若干个用户的屏蔽词溢出的特征对话；其中，特征对话包括若干轮次的用户和语言模型的交替文本；文本处理模块，用于对每个特征对话进行预处理，得到若干实体词向量；拓扑构建模块，用于基于实体词向量构建拓扑网络；拓扑分析模块，用于对每个拓扑网络进行分析，得到屏蔽词的溢出路径；路径聚类模块，用于对溢出路径进行聚类，得到特征溢出路径；溢出测试模块，用于基于特征溢出路径，对语言模型生成诱导对话；根据诱导对话生成屏蔽词的漏洞检测结果。