一种大语言模型的提示词攻击检测方法和装置

本申请提供一种大语言模型的提示词攻击检测方法和装置，涉及信息处理技术领域。该方法，获取待处理提示词信息；对所述待处理提示词信息进行类型识别，得到所述待处理提示词信息对应的提示词类型信息；基于所述提示词类型信息，确定所述待处理提示词信息对应的攻击判断模型；依次将所述待处理提示词信息输入到所述攻击判断模型的各个所述判断子模型，以得到与各个所述判断子模型分别对应的子模型评估信息；基于所述子模型评估信息，判断所述待处理提示词信息是否是针对所述大语言模型的攻击信息。该方法，可以提升大语言模型在提示词处理过程中的安全性。