一种针对大语言模型的安全对齐测试方法及系统

本发明公开了一种针对大语言模型的安全对齐测试方法及系统，属于大模型安全技术领域，解决现有越狱提示词生成方法主要依赖算法优化、利用侧通道通信与长尾效应、基于分布式手动制作越狱提示词、多轮自动越狱等，存在生成效率低、测试效果有限的问题。本发明包括将三段式的原始恶意问题输入训练好的三段式改写模型生成固定结构的三段语义层级明确的提示词；将三段式的原始恶意问题及大语言模型针对三段提示词的回复输入越狱判定模型中对大语言模型进行安全对齐测试。本发明用于对大语言模型的安全对齐测试。