一种生成式大模型训练数据泄露风险评估方法及系统

本发明公开了一种生成式大模型训练数据泄露风险评估方法及系统。方法包括如下：选取目标文本数据集；将目标文本数据集中的第i个目标文本拆分为前缀文本和后缀文本；将第i个目标文本的前缀文本发送到目标大语言模型，并生成候选文本；收集n个候选文本；将n个候选文本进行裁剪；计算n个裁剪文本彼此间的表层相似性，计算n个裁剪文本各自的zlib压缩熵；获取所有文本对应的评估结果进行比较，如果评估结果大于阈值，则认为目标文本被用于训练目标大语言模型，反之，则认为目标文本未被用于训练目标大语言模型。该方法仅依赖目标文本和模型输出，不仅显著提高了方法的实用性，而且对个人隐私信息和受版权保护的数据提供了有效的识别管理。