摘要
本发明公开了面向非对等通信的分布式大数据处理任务调度方法,本发明在处理轮次开始时,控制节点根据当前的环境条件,将最新的待处理数据和模型分发至本轮处理所需的计算节点,计算节点接收最新的待处理数据和模型后,根据控制节点的处理轮次信息执行多轮数据处理后将处理结果发送至控制节点,控制节点对接收处理结果进行负面影响监测,若存在负面影响则舍弃该计算节点的处理结果,并确定各计算节点未舍弃的处理结果的聚合权重。控制节点根据各个节点的聚合权重聚合不同计算节点处理的结果后,再根据当前的环境条件进行下一轮处理。本发明能够在上下行带宽差异较大的网络环境下,实现高效的分布式大数据处理,提升整体处理效率。
技术关键词
分布式大数据处理
任务调度方法
节点
可读存储介质
网络
模型更新
处理器
存储器
计算机
机制
电子设备
参数
资源
系统为您推荐了相关专利信息
PID参数整定方法
实时状态信息
参数优化模型
PID控制算法
误差信息
检测箱体
信号激励模块
激光传感器
BP神经网络构建
摄像模块
视频图像增强方法
道路障碍物检测
像素点
光照
矫正