一种新型中文语义混淆越狱攻击方法、装置、介质及设备

一种新型中文语义混淆越狱攻击方法、装置、介质及设备，方法包括：获取原始有害提示；识别敏感有害关键词；选择与敏感有害关键词概率距离最大的同音异形词作为替代词；构造师生场景，目标模型作为学生回答原始有害提示；在师生场景中融合前缀注入和拒绝抑制；在师生场景中添加单样本；将原始有害提示和单样本中所有的敏感关键词替换为对应的同音异形词；将融合前缀注入和拒绝抑制的师生场景、替换完成的原始有害提示、替换完成的单样本作为目标模型的输入。实现针对国产大模型的自动化黑盒越狱攻击，能够有效地评估和测试中文语境下LLMs对于中文语义混淆越狱的抵抗能力，助于研究和开发更精准的防御措施。