一种大模型提示词注入防御方法及装置

本发明提供的一种大模型提示词注入防御方法及装置，其方法包括：在提示词构建侧，获取用户的输入内容，根据所述输入内容识别得到输入风险类型，根据所述输入风险类型生成对应的安全预警内容，将所述安全预警内容添加到所述输入内容之后，构建输入提示，将所述输入提示发送至大语言模型；由大语言模型根据所述输入提示输入生成输出内容。本发明在用户的输入内容后置一段安全预警内容，以增强输入提示的安全性和有效性，确保了输入提示在进入大语言模型前经过强化和安全处理，减少了不安全提示对模型输出的影响，从而能够提高大语言模型的安全性。