摘要
本发明公开了一种异构AI算力资源的切分与调度方法及系统,该方法包括:识别接入当前服务器的异构AI算力卡类型及其硬件资源参数,并进行抽象建模生成逻辑资源模型;基于逻辑资源模型的约束,通过资源虚拟化技术,将单个异构AI算力卡的计算核心与显存划分为至少一个独立的虚拟算力实例;响应计算任务请求,将虚拟算力实例以容器化形式挂载至计算任务,并基于计算任务的需求对虚拟算力实例进行动态调度。通过最小切分单位生成标准化逻辑资源单元,显著提升了异构AI算力资源的利用率与调度灵活性。
技术关键词
资源虚拟化技术
异构
逻辑
核心
资源分配
内存管理单元
容器
服务器
动态
处理器
挂载模块
计算机程序产品
参数
调度系统
物理
插件
多模式
高带宽
可读存储介质
系统为您推荐了相关专利信息
数据接收模块
静态随机存取存储单元
芯片启动方法
执行循环冗余校验
循环冗余检验
液压促动器
液体接触面
检测分析方法
智能检测分析系统
小型压力传感器