一种基于K8s的CPU与NPU算力分布调度系统

本申请提供了一种基于K8s的CPU与NPU算力分布调度系统，系统包括K8s集群和调度优化模块，K8s集群包括一个主节点、多个工作节点以及任务特性分析模块，每个工作节点包括至少一个CPU和至少一个NPU且部署有一个动态算力感知模块，动态算力感知模块用于监测对应工作节点的实时资源状态，实时资源状态包括CPU资源状态、NPU资源状态和内存资源状态。在用户提交任务时，主节点通过调用任务特性分析模块分析任务特性，调度优化模块基于动态算力感知模块监测的实时资源状态和任务特性，调用内置的分布式优化算法和节点算力模型确定调度方案，并发送至主节点，最后主节点根据调度方案，对任务进行调度。其中，调度方案包括任务的工作节点、CPU核心数和NPU数量。