摘要
本发明公开了一种混合云部署集群Spark作业调度方法、装置、设备及存储介质。该方法包括:实时获取当前的作业信息、虚拟机信息以及阶段信息;基于所述作业信息、所述虚拟机信息以及所述阶段信息,采用粒子群优化算法,以最小化整个集群的虚拟机使用成本为优化目标,生成当前的调度信息;根据所述调度信息调度执行器执行。本发明所提供的技术方案,结合作业信息、虚拟机信息和阶段信息,并基于元启发式的粒子群优化算法,通过粒子群的迭代搜索,实现了在多作业环境下,精准的为各Spark作业的DAG定制最优调度方案,从而有效降低了混合云部署集群的整体运行成本。
技术关键词
作业调度方法
混合云
粒子群优化算法
集群
阶段
云虚拟机
执行器
处理器
计算机程序产品
调度装置
任务调度
速度
计算机设备
可读存储介质
资源
模块
存储器
系统为您推荐了相关专利信息
优化极限学习机
可靠度计算方法
重力坝
多策略融合
粒子群优化算法
需求响应潜力评估方法
模拟电动汽车充电
蒙特卡洛方法
集群
模糊算法