一种面向高性能计算的GPU、NPU资源调度方法

AITNT
正文
推荐专利
一种面向高性能计算的GPU、NPU资源调度方法
申请号:CN202411623469
申请日期:2024-11-14
公开号:CN119512752A
公开日期:2025-02-25
类型:发明专利
摘要
本发明属于人工智能技术领域,具体说是一种面向高性能计算的GPU、NPU资源调度方法,包括以下步骤:采集到的GPU和NPU硬件加速器的资源状况数据等待调度优化模块调用;任务分析模块分析待执行的AI计算任务,获取任务特征数据,并将任务特征数据传输至调度优化模块;调度优化模块计算出最优的任务分配方案,并传递给动态调度模块;动态调度模块实时监控任务执行情况和资源变化,根据反馈信息动态调整任务分配方案,并反馈至调度优化模块;同时动态调度模块分别反馈资源状况数据的变化信息和任务执行情况至资源监控模块和任务分析模块;本发明针对GPU和NPU等异构硬件加速器进行动态调度,充分发挥各自的优势,提高整体计算性能。
技术关键词
资源调度方法 硬件加速器 高性能 资源监控 粒子 动态 内存访问模式 数据分布特征 监测模块 位置更新 神经网络推理 资源调度系统 算法 变异方法 速度 人工智能技术 复杂度
系统为您推荐了相关专利信息
1
基于RSSI混合滤波及GPRM的室内无线定位方法
室内无线定位方法 加权最小二乘算法 粒子群优化算法 RSSI数据 卡尔曼滤波
2
基于多目标规划模型的电力交易方法、系统、设备及介质
电力交易方法 粒子群算法求解 电力交易系统 电力交易技术 极值
3
一种基于低比特量化的B-Rao的MIMO雷达远距离弱目标检测
低比特量化 杂波协方差矩阵 远距离 检测器 MIMO雷达信号
4
低压配电网中光伏与电动汽车充电设施协同运行优化方法
协同运行优化方法 设施 光伏发电量 电力系统优化控制技术 节点
5
一种水电机组LCU有功与调速系统频率协调控制优化方法及系统
水电机组 频率协调控制 有功功率 实测频率 偏差
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号