多模态大模型的指令微调数据选择方法及装置

本发明提供一种多模态大模型的指令微调数据的选择方法及装置，方法包括：训练一个基于人工反馈的奖励模型并将奖励模型的输出得分最大化作为目标优化多模态大模型，以得到多模态数据集的第一评分公式，奖励模型的输出得分用于对多模态大模型输出结果的质量进行评估；根据低秩适配器和Adam优化器调整第一评分公式，得到第二评分公式；根据第二评分公式，从多模态数据集中获取代表性数据集；从代表性数据集中进行多样性选择，获取既具有代表性，同时具有多样性的多模态大模型的指令微调数据。通过上述方法，使得多模态大模型在进行特定任务训练时，能够获取到高质量的微调数据，提升训练速率。