一种基于大模型安全性的测试方法

本申请属于模型测试技术领域，更具体地说，涉及一种基于大模型安全性的测试方法，通过收集并处理覆盖正常使用场景和边界场景的输入数据，确保测试数据的全面性和有效性。接着，利用FGSM方法生成初步对抗样本，并结合现有数据对模型进行测试，从而发现模型在不同场景下的脆弱点。随后，攻击者智能体根据模型的测试结果不断调整对抗样本，以最大化攻击效果，深入挖掘模型的安全漏洞。在持续监测过程中，监控模型生成文本的置信度变化，识别出对抗样本导致的高置信度错误输出，判定攻击成功。最后，通过对攻击结果的统计分析，全面评估模型在各类攻击下的脆弱性，从而为模型的优化和安全防护提供有力依据，显著提升电网领域智能模型的安全性和可靠性。