基于动态扩展和兜底机制的中文大语言模型安全评估系统及方法

本发明提供一种基于动态扩展和兜底机制的中文大语言模型安全评估系统及方法，属于自然语言处理和人工智能领域。本发明基于现有基准测试数据集，通过大语言模型结合多种攻击方法生成攻击测试数据集，通过兜底机制，对被模型拒绝响应的请求，利用微调的专家模型生成攻击测试数据；再构造其对应的假阳性测试数据集，将攻击测试数据集和假阳性测试数据集输入到待评测中文大语言模型，进行推理并获得输出结果；最后对输出结果进行多维度评估并自动生成报告。本发明具有良好的可扩展性和适应性，能够动态地扩展测试数据集，跟进新兴的安全威胁，并有效避免过敏反应和生成有害内容；为中文大语言模型的安全性评估提供了更为灵活、全面和高效的解决方案。