基于spark的空间增量数据处理方法

AITNT
正文
推荐专利
基于spark的空间增量数据处理方法
申请号:CN202411819367
申请日期:2024-12-11
公开号:CN119293004B
公开日期:2025-03-18
类型:发明专利
摘要
本发明公开了一种基于spark的空间增量数据处理方法,属于空间数据处理领域。包括:基于spark并行分析原理建立均衡化空间智能分区算法;构建针对空间数据的分布式存储格式;在数据读取时,利用空间索引文件对原始分区数据文件进行过滤;基于智能分区算法和分布式存储格式构建空间分析模式,用于执行:读取新增空间数据,获取新增空间数据的数据量和空间范围;利用均衡化空间智能分区算法对新增空间数据进行空间分区操作,并对每个分区按照数据范围进行缩减;在各分区内建立空间二级索引;将处理完成的分区数据并行写入数据库。本发明能够提升空间增量数据处理的工作效率,降低人工成本,并确保处理过程采用统一标准,减少人为错误,提升准确度。
技术关键词
增量数据处理方法 智能分区 数据并行写入 分布式文件存储系统 索引 算法 分布式文件系统 格式 计算机 电子设备 处理器通信 指令 可读存储介质 直方图 模式 存储器
系统为您推荐了相关专利信息
1
一种基于微分平坦的小型固定翼无人机轨迹跟踪方法
小型固定翼无人机 轨迹跟踪方法 残差模块 时间滤波器 矩阵
2
一种适用于多分类问题的新型量子集成学习方法
集成学习方法 新型量子 弱分类器 图像 样本
3
一种海洋传感器监测数据漂移检测方法
海洋传感器 漂移检测方法 噪声分量 滑动窗口方法 特征向量值
4
基于BIM技术的建筑智慧能耗管理系统
能耗管理系统 BIM技术 物理设备 定位校准 历史运行数据
5
一种大数据批处理任务运行资源树生成的方法和装置
资源 银行家算法 执行器 实体 组合模块
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号