用于识别针对大语言模型的提示注入攻击的方法、模型及设备

本公开涉及人工智能与自然语言处理领域，尤其涉及一种用于识别针对大语言模型的提示注入攻击的方法、模型及设备。所述方法包括：获取要输入到LLM的提示词；对提示词进行语义分析，得到语义分析结果；对提示词进行提示注入词检测，得到提示注入词检测结果；根据语义分析结果和提示注入词检测结果，分析提示词是否涉及提示注入攻击。本公开提出了一种结合语义分析和提示注入词检测的融合识别机制，专门用于识别针对LLM的提示注入攻击，从而提升对LLM提示注入攻击的防御能力。