基于硬件与模型特征的大语言模型配对方法、装置、终端、介质及产品

本申请提供一种基于硬件与模型特征的大语言模型配对方法、装置、终端、介质及产品。该方法包括：根据获取的目标配对需求，获取至少一个硬件平台以及至少一个大语言模型；获取各硬件平台的硬件特征参数，并令各大语言模型分别执行对应的预设目标任务，得到各大语言模型的特性参数；基于各硬件平台的硬件特征参数以及各大语言模型的特性参数，利用预测函数，预测出各大语言模型分别部署在各硬件平台时的关键指标参数；利用优化目标函数，基于各大语言模型分别部署在各硬件平台时的关键指标参数，确定满足所述目标配对需求的硬件平台和大语言模型的配对结果。本申请充分考虑了硬件平台与大语言模型的特征，确保了模型能够更好地匹配硬件平台。