基于智能计算中心的算力部署大语言模型的方法及装置

本发明提供一种基于智能计算中心的算力部署大语言模型的方法及装置，其中方法应用于智能计算中心的VCluster集群，包括：步骤S1：获取预设的配置文件，所述配置文件包括：目标大语言模型的名称、私有云平台的网络地址；步骤S2：根据所述目标大语言模型的名称，获取封装于NVIDIA NIM服务的所述目标大语言模型的封装文件，并且，按照所述私有云平台的网络地址，将所述封装文件传递并存储至所述私有云平台；步骤S3：根据所述封装文件，将所述目标大模型部署至所述私有云平台。本发明部署目标大模型具备高安全性，并且，部署效率高。