混合云部署集群Spark作业调度方法、装置、设备及存储介质

AITNT
正文
推荐专利
混合云部署集群Spark作业调度方法、装置、设备及存储介质
申请号:CN202411593371
申请日期:2024-11-08
公开号:CN119537007A
公开日期:2025-02-28
类型:发明专利
摘要
本发明公开了一种混合云部署集群Spark作业调度方法、装置、设备及存储介质。该方法包括:实时获取当前的作业信息、虚拟机信息以及阶段信息;基于所述作业信息、所述虚拟机信息以及所述阶段信息,采用粒子群优化算法,以最小化整个集群的虚拟机使用成本为优化目标,生成当前的调度信息;根据所述调度信息调度执行器执行。本发明所提供的技术方案,结合作业信息、虚拟机信息和阶段信息,并基于元启发式的粒子群优化算法,通过粒子群的迭代搜索,实现了在多作业环境下,精准的为各Spark作业的DAG定制最优调度方案,从而有效降低了混合云部署集群的整体运行成本。
技术关键词
作业调度方法 混合云 粒子群优化算法 集群 阶段 云虚拟机 执行器 处理器 计算机程序产品 调度装置 任务调度 速度 计算机设备 可读存储介质 资源 模块 存储器
系统为您推荐了相关专利信息
1
一种体系韧性关键要素的挖掘方法、设备、介质及产品
挖掘方法 超网络 指标 贡献率 救援无人机
2
基于优化极限学习机的重力坝深层滑动可靠度计算方法
优化极限学习机 可靠度计算方法 重力坝 多策略融合 粒子群优化算法
3
一种多物质在线分析模型的建立方法及其应用和1,4-DMN生产工艺中多物质同时在线测定的方法
二甲基 四氢萘 阶段 乙苯 在线测定方法
4
基于WBS技术的洁净房施工优化方法
洁净房 施工优化方法 样本 度量 密度
5
一种考虑用户参与度的电动汽车需求响应潜力评估方法
需求响应潜力评估方法 模拟电动汽车充电 蒙特卡洛方法 集群 模糊算法
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号