大语言模型的提示词优化方法及装置

本发明公开了一种大语言模型的提示词优化方法及装置，其中该方法包括：将越狱攻击指令集输入到待测的大语言模型中进行循环攻击，获取大语言模型的响应结果；根据大语言模型的响应结果计算评价指标，当评价指标超出预设阈值时，对大语言模型中的提示词进行更新；构建多策略防御模板，利用多策略防御模板对每一个越狱攻击指令的类型进行分析，确定每一个越狱攻击指令的类型，根据越狱攻击指令的类型，在多策略防御模板中匹配对应类型的防御策略，将防御策略转化为对应的防御提示词，将防御提示词输入到大语言模型中以优化更新大语言模型的防御提示词。本发明可以提升提示词更新的及时性和准确性，提升大语言模型的抵抗力和安全性。