一种面向大语言模型红队演练的多层次可视分析系统

本发明公开了一种面向大语言模型红队演练的多层次可视分析系统，包括：控制面板模块，其包括模型基本信息、模型管理及训练控制按钮；嵌入分析模块，其包括迭代过程中产生的文本数据集的嵌入分布散点图；指标监控模块，其通过雷达图展示模型总体性能指标，并通过双轴折线图展示指标在迭代过程中的变化趋势；对抗流模块，其通过三级视图展示了目标模型处理不同类别的对抗性提示的性能变化；波动性分析模块，其包括在验证集上，提示级和令牌级的波动性分析的列表；实例列表模块，其展示了实例集合的详细信息列表；后端计算模块，其将对红队模型与目标模型进行迭代训练及验证，计算相关指标，并与其他所有模块进行数据交互，实现数据的实时更新。