摘要
本发明提供一种数据分片流量动态限制方法及装置,根据批量程序中子程序的标识,生成子程序的数据分片获取次序;获取各个数据分片的实时资源使用情况;结合数据分片获取次序和实时资源使用情况,选取目标数据分片;根据实时资源使用情况判断目标数据分片对应的批数据是否可以正常处理;若可以则通过子程序处理批数据;若不可以则重新选取目标数据分片,直至所有待处理的数据分片均处理完毕。通过监控实时资源使用情况,当评估批数据不能够执行时,动态调整子程序流量,重新选取目标数据分片,从而充分利用系统的并发资源。在保证数据分片合理使用的前提下,提升了自动化控制处理效率。保证批处理系统的易运维性和自动化性,确保数据处理的高效性。
技术关键词
分片
分布式数据库
资源
输入神经网络模型
数据获取请求
分析器
标识
批处理系统
流量限制器
动态
观察器
标记
批量
模块
程序
指令
系统为您推荐了相关专利信息
作物生长状态
协同方法
监测农田环境
延迟参数
队列
显示设备
管理系统
有效载荷数据
图像
接口控制模块
竞赛管理方法
竞赛管理系统
阶段
服务器
资源分配策略
业务系统
事前控制方法
网络流量预测模型
存储模块
分布式数据库