一种面向高并发AI任务的虚拟化资源调度方法、装置及存储介质

AITNT
正文
推荐专利
一种面向高并发AI任务的虚拟化资源调度方法、装置及存储介质
申请号:CN202510766082
申请日期:2025-06-10
公开号:CN120276871B
公开日期:2025-08-26
类型:发明专利
摘要
本发明提出了一种面向高并发AI任务的虚拟化资源调度方法、装置及存储介质,对供服务器端调用的应用程序的进行源代码扫描分析生成运行依赖表,基于所述依赖表构建所述应用程序运行的最小容器化沙箱;在云端接收用户的输入的AI任务,将所述AI任务的参数输入训练后的任务智能调度模型确定执行该任务的服务器;在确定的执行所述AI任务的服务器上,根据所述AI任务的优先级调用执行所述AI任务所对应的应用程序的最小化容器化沙箱,并基于所述AI任务分配服务器资源并加载所述应用程序的其他组件,其中,高并发AI任务是指在所述服务器上同时执行500个以上的AI任务。本发明实现了服务器的超密度调度能力,并大大降低任务环境内存占用率,提高了系统性能。
技术关键词
智能调度模型 虚拟化资源调度 面向高并发 分层构建方法 内存压缩技术 计算机存储介质 模拟沙箱 容器 动态链接库 分布式链路追踪 核心 输入输出关系 服务器节点 记录工具 云端
系统为您推荐了相关专利信息
1
港口船舶靠离泊智能调度方法、系统、设备及介质
智能调度方法 智能调度模型 泊位 船舶调度技术 数据
2
面向高并发差旅预算请求的响应方法、装置及电子设备
员工 面向高并发 变量 房间 消除人工误差
3
一种基于自动驾驶兼远程驾驶融合的驾考评估系统
评估系统 智能调度模型 评估数据信息 车辆 度量
4
时差隐私保护方法及基于该方法的医学急救车辆调度方法
隐私保护方法 车辆调度方法 智能调度模型 车辆历史轨迹 深度强化学习
5
大规模电能数据的通信单元数据传输优化方法及系统
数据传输优化方法 通信单元 电能 传输路径 数据传输优先级
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号