提示词注入的防范方法及电子设备

本申请提供了一种提示词注入的防范方法及电子设备，其中，该方法包括：获取用户向大语言模型输入的第一提示内容；对第一提示内容进行目标敏感词的过滤处理，得到第二提示内容；其中，目标敏感词为用于指示第一提示内容存在提示词注入风险的词汇；在第二提示内容包含用户提示词的情况下，将第二提示内容和大语言模型的预设模型提示内容进行向量匹配，得到目标提示结果；目标提示结果包括满足大语言模型的提示格式要求的问题和用户提示词，用户提示词用于指示大语言模型的输出要求；将目标提示结果输入至大语言模型，得到大语言模型对第一提示内容的处理结果。