GPU资源的负载均衡方法、装置和计算机设备

AITNT
正文
推荐专利
GPU资源的负载均衡方法、装置和计算机设备
申请号:CN202411374065
申请日期:2024-09-29
公开号:CN119201468A
公开日期:2024-12-27
类型:发明专利
摘要
本申请涉及一种GPU资源的负载均衡方法、装置和计算机设备,涉及云计算技术领域。所述方法包括:响应于GPU资源使用方发起的GPU实例调用请求,从预配置的GPU集群中获取各GPU实例的实例地址;根据各GPU实例的实例地址,查询得到各GPU实例的元数据,检测得到各GPU实例的负载情况描述数据;根据元数据和负载情况描述数据,从GPU集群中筛选得到符合条件的GPU实例作为目标实例,将目标实例的实例地址作为GPU实例调用请求的响应发送至GPU资源使用方,以供GPU资源使用方调用目标实例的计算资源。采用本方法能够改善GPU实例资源进行负载均衡的效果。
技术关键词
分布式存储系统 集群 负载均衡方法 资源 计算机设备 云计算技术 计算机程序产品 处理器 数据更新 可读存储介质 存储器 方针 接口 物理
系统为您推荐了相关专利信息
1
针对算力集群的通信方法、装置、电子设备及存储介质
RDMA协议 接收端 集群 时延 大语言模型
2
一种基于OODA循环的应急决策智能体系统、方法及存储介质
智能体系统 量子优化算法 应急决策方法 动态反馈机制 区块链智能合约
3
多源卫星数据在轨智能融合方法、装置、设备及介质
卫星云图 深度学习预测模型 多源卫星数据 智能融合方法 卡尔曼滤波
4
一种基于GIS的任务调度方法及装置
垃圾收集 垃圾中转站 垃圾处理站 任务调度方法 拓扑图
5
建筑标讯信息的串联方法、装置、设备和可读存储介质
串联方法 建筑 压缩算法 元素 数据分类
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号