一种提示注入防御方法、系统、电子设备及存储介质

本申请的实施例揭示了一种提示注入防御方法、系统、电子设备及存储介质，方法包括：对输入文本进行初步检测，得到初步检测结果；对输入文本进行语义分析生成语义理解分析报告；获取目标大语言模型的当前运行参数；根据当前运行参数，获取目标大语言模型的行为模式分析结果；根据所述初步检测结果、所述语义理解分析报告和所述行为模式分析结果，获取所述目标大语言模型的当前防御策略；本申请通过从输入文本和大语言模型的运行状态两个方面进行紧密结合，不仅可以准确检测出大模型受到的提示注入攻击以及高效防止大模型受到恶意攻击，并且在面对复杂的攻击场景时可以制定出相对应的防御策略，实现更有效的防御，提升整体防御系统的鲁棒性。