一种针对检索增强生成系统的鲁棒性评估方法及装置

本发明公开了一种针对检索增强生成系统的鲁棒性评估方法及装置，涉及检索增强生成技术领域。该方法可以高效的生成高质量的模拟恶意文本，选择目标查询并设定攻击目标；设计包含检索组件、劫持组件和指令组件的模拟恶意文本；其中通过基于自动化模糊测试技术的方法生成多样化的劫持组件，并以最大化模拟恶意文本与目标查询的相似度为目标进行优化；将检索到的候选文本和目标查询输入生成模型，引导生成模型输出攻击者预期的目标答案；通过评估生成结果与攻击目标的匹配程度，衡量检索增强生成系统在面对模拟恶意文本时的鲁棒性。利用本发明生成的模拟恶意文本，可为检索增强生成系统鲁棒性研究提供关键支持，并为相应防御技术的研究提供重要依据。