文本对抗样本生成方法、装置、设备、存储介质及程序产品

本申请公开一种文本对抗样本生成方法、装置、设备、存储介质及程序产品，涉及人工智能信息安全技术领域。所述方法包括获取文本数据集；选择对抗攻击方法和受害模型，根据所述文本数据集中的文本样本、对抗攻击方法和受害模型生成有效对抗样本；获取设计的提示词；选择大语言模型，利用提示词、文本数据集和有效对抗样本对所述大语言模型进行微调，得到目标语言模型；利用所述目标语言模型生成对抗样本。本发明的大语言模型具备根据提示词生成有效对抗样本的能力，且通过提示词控制攻击范围，大语言模型具备对抗样本生成的控制能力。