基于行业大模型的提示词攻击行为的检测方法、装置、设备及介质

本申请公开了基于行业大模型的提示词攻击行为的检测方法、装置、设备及介质，涉及计算机技术领域，包括：基于预设正则表达式匹配库及客户端的提问信息对预设白名单进行多模正则匹配；若匹配失败则基于预设正则表达式匹配库及提问信息对预设黑名单进行多模正则匹配；若匹配失败，则利用预先基于目标语料训练集进行大模型微调后确定的拒识大模型对提问信息进行针对提示词攻击行为的检测；若检测结果表明提问信息为正常信息，则基于行业大模型确定提问信息对应的答复内容，利用预先基于所述目标语料训练集进行大模型微调后确定的拒答大模型对所述答复内容进行检测，以确定是否触发答复拦截操作。本申请提高了行业大模型对提示词攻击行为的防御能力。