一种大语言模型的提示词泄漏检测方法、装置、设备及介质

本申请公开了一种大语言模型的提示词泄漏检测方法、装置、设备及介质，涉及人工智能技术领域，从用户提示词及系统提示词提取文本段落，并进行分割、筛选去重及编号，得到映射表；对大语言模型的输出结果分割，得到待检测句子和待检测字词；从第一映射表中确定特征字词，计算特征字词数量与待检测字词数量的第一比值，判断第一比值是否大于预设第一阈值；若不大于，将第二映射表和第三映射表与待检测句子比对，得到特征句子并统计数量，计算数量与特征字词总数的第二比值，判断第二比值是否大于预设第二阈值；若不大于，计算特征句子与待检测句子的相似度，若相似度不大于预设相似度阈值，判定未发生提示词泄漏，提高提示词泄漏检测性能和效率。