摘要
本发明涉及计算机技术领域,尤其涉及一种基于大数据的任务调度优化分析方法及系统。所述方法包括以下步骤:通过在服务器、存储设备以及客户端之间对应的分布式大数据处理场景中实时采集任务相关数据、任务系统资源使用数据以及任务执行状态数据;利用Hadoop分布式框架进行大数据特征挖掘分析和任务调度聚类分析,生成具有相似资源需求对应的任务调度簇组;对分布式大数据处理场景对应的任务计算节点进行剩余执行时长计算和任务紧急核算,得到任务节点调度紧急程度;对相对应的任务计算节点进行调度优先级确定和任务调度优化分析,以生成任务动态优化调度方案。本发明能够提高分布式任务资源调度之间的合理性。
技术关键词
分布式大数据处理
任务调度
优化分析方法
节点
分布式框架
场景
优化分析系统
存储设备
数据采集接口
客户端
分布式网络设备
服务器
文本分类方法
内存
数据挖掘技术
资源使用量
资源监控
系统为您推荐了相关专利信息
识别分类方法
纹理特征识别
指数
痕迹特征
室内空间单元
储能规划方法
电力系统规划
风电
充放电功率
梯度下降法