摘要
本发明公开了基于算力优化的集群数据采集方法、系统、设备及介质,涉及集群数据采集技术领域,包括如下步骤:将整个数据采集任务划分为多个采集子任务;获取采集子任务在预加载端的预加载所需资源;获取采集子任务在处理端的处理所需资源;通过历史数据分析不同处理端的资源变化函数;根据动态资源分配优化算法分配集群的采集任务;本发明用于解决现有的集群数据采集技术还存在对于集群的负载均衡算法不够优秀,仅能确保集群的负载大致均衡而无法达到最佳,且需要多次向请求处理端的实时数据,导致采集任务的效率下降的问题。
技术关键词
动态资源分配
数据采集方法
集群
磁盘
建立平面直角坐标系
内存
指标
标记
分区模块
数据采集技术
NoSQL数据库
分析模块
负载均衡算法
关系型数据库
队列
数据采集系统
系统为您推荐了相关专利信息
网络质量指标
时空卷积神经网络
智能评估方法
服务质量策略
网络配置参数
负载均衡系统
智能优化算法
策略
监测技术
粒子群优化算法
充电站
双层优化模型
储能系统
管理方法
出行计划