摘要
本发明属于人工智能技术领域,具体说是一种面向高性能计算的GPU、NPU资源调度方法,包括以下步骤:采集到的GPU和NPU硬件加速器的资源状况数据等待调度优化模块调用;任务分析模块分析待执行的AI计算任务,获取任务特征数据,并将任务特征数据传输至调度优化模块;调度优化模块计算出最优的任务分配方案,并传递给动态调度模块;动态调度模块实时监控任务执行情况和资源变化,根据反馈信息动态调整任务分配方案,并反馈至调度优化模块;同时动态调度模块分别反馈资源状况数据的变化信息和任务执行情况至资源监控模块和任务分析模块;本发明针对GPU和NPU等异构硬件加速器进行动态调度,充分发挥各自的优势,提高整体计算性能。
技术关键词
资源调度方法
硬件加速器
高性能
资源监控
粒子
动态
内存访问模式
数据分布特征
监测模块
位置更新
神经网络推理
资源调度系统
算法
变异方法
速度
人工智能技术
复杂度
系统为您推荐了相关专利信息
室内无线定位方法
加权最小二乘算法
粒子群优化算法
RSSI数据
卡尔曼滤波
电力交易方法
粒子群算法求解
电力交易系统
电力交易技术
极值
低比特量化
杂波协方差矩阵
远距离
检测器
MIMO雷达信号
协同运行优化方法
设施
光伏发电量
电力系统优化控制技术
节点