摘要
本发明公开了一种基于spark的空间增量数据处理方法,属于空间数据处理领域。包括:基于spark并行分析原理建立均衡化空间智能分区算法;构建针对空间数据的分布式存储格式;在数据读取时,利用空间索引文件对原始分区数据文件进行过滤;基于智能分区算法和分布式存储格式构建空间分析模式,用于执行:读取新增空间数据,获取新增空间数据的数据量和空间范围;利用均衡化空间智能分区算法对新增空间数据进行空间分区操作,并对每个分区按照数据范围进行缩减;在各分区内建立空间二级索引;将处理完成的分区数据并行写入数据库。本发明能够提升空间增量数据处理的工作效率,降低人工成本,并确保处理过程采用统一标准,减少人为错误,提升准确度。
技术关键词
增量数据处理方法
智能分区
数据并行写入
分布式文件存储系统
索引
算法
分布式文件系统
格式
计算机
电子设备
处理器通信
指令
可读存储介质
直方图
模式
存储器
系统为您推荐了相关专利信息
小型固定翼无人机
轨迹跟踪方法
残差模块
时间滤波器
矩阵
海洋传感器
漂移检测方法
噪声分量
滑动窗口方法
特征向量值
能耗管理系统
BIM技术
物理设备
定位校准
历史运行数据