GPU混部下的分布式任务执行方法和系统

AITNT
正文
推荐专利
GPU混部下的分布式任务执行方法和系统
申请号:CN202411548262
申请日期:2024-10-31
公开号:CN119396608A
公开日期:2025-02-07
类型:发明专利
摘要
本说明书实施例提供了GPU混部下的分布式任务执行方法和系统,其应用于包含多个GPU的平台,其中部署有第一类任务和第二类任务,第二类任务的优先级低于第一类任务。任务执行的方法包括:目标应用调用集合通信库,请求执行GPU间的目标通信操作,其中,该目标应用属于第二类任务。然后,集合通信库确定出目标通信操作涉及的子任务列表,其中包括分布于不同GPU的多个子任务;通过进程间同步操作,使得所述多个子任务向GPU驱动环境同步提交通信kerne l。GPU驱动环境在确定上述通信kerne l启用同步提交的情况下,立即向GPU提交所述通信kerne l。
技术关键词
列表 GPU虚拟化 点对点 进程 时间片 线程监控 同步算法 计算机程序产品 许可 处理器 参数 平台 存储器 编码 容器 指令 通知 规模 标识 物理
系统为您推荐了相关专利信息
1
派件订单智能分单方法、装置、设备及存储介质
智能分单方法 订单 队列算法 计算机可读指令 列表
2
一种物理催熟技术ai数据模型模拟系统
模拟系统 数据采集模块 物理 催熟设备 人工智能算法
3
一种数字孪生开发系统及数字孪生模型生成方法
编辑 场景 子组件 对象 看板
4
一种基于树结构的复杂表格问答方法、电子设备、介质
表头 大语言模型 问答方法 关键词 表格
5
基于安全强化学习的环形交叉口多车协同决策方法
环形交叉口 多智能体强化学习 注意力 车道 强化学习模型
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号