大模型部署方法以及相关设备

本申请实施例公开了一种大模型部署方法以及相关设备，能够在提高大模型部署效率的情况下，进行大模型部署。本申请实施例方法包括：根据目标请求确定显存中是否部署有目标请求对应的满足预设条件的目标任务的当前大模型，若确定显存中未部署有目标请求对应的满足预设条件的目标任务的当前大模型，则将训练完成的目标任务的微调参数加载至显存，并将显存中部署的当前大模型的当前微调参数替换为显存中的目标任务的微调参数，以部署目标任务的大模型，若确定显存中部署有目标请求对应的满足预设条件的目标任务的当前大模型，则将当前大模型作为目标任务的大模型，以通过目标任务的大模型进行目标请求对应的目标任务的推理。