一种基于Kubernetes的GPU显存隔离方法、设备、介质及产品

本申请实施例涉及图像处理技术领域，公开了一种基于Kubernetes的GPU显存隔离方法、设备、介质及产品。方法包括配置文件初始化，设置GPU驱动和插件的参数；Device Plugin获取显存信息，调用NVML自动检测节点上当前可用的显存数额；配置容器化应用程序参数，设置用户所需的显存类型和显存数额；启动容器化应用程序，通过Device Plugin处理显存申请；由Device Plugin判断满足所述显存申请的节点，并由Scheduler调度到对应节点；如果没有满足所述显存申请的节点，则将Pod置于Pending状态，等待满足所述显存申请的条件出现。可以至少用以解决显存管理分配不足的技术问题。