一种模型攻击方法、装置、存储介质及设备

本申请提供了一种模型攻击方法、装置、存储介质及设备，该方法应用于计算机技术领域，该方法包括：攻击模型向目标模型发送与攻击任务相关的第一攻击提示，对目标模型针对第一攻击提示所返回的第一响应内容进行语义分析，根据语义分析结果确定是否停止攻击，若继续攻击，则根据攻击提示、响应内容以及攻击任务之间的攻击相关性分数确定与目标模型的对话方向。在针对目标模型的攻击过程中，通过多回合对话，对响应内容进行语义分析，逐步调整对话方向，提升攻击成功率，使研究者可以识别目标模型在生成响应内容时的薄弱环节，有助于发现目标模型的漏洞，并开发更有效的安全防御机制。