多源异构数据处理方法、装置及系统

AITNT
正文
推荐专利
多源异构数据处理方法、装置及系统
申请号:CN202411835286
申请日期:2024-12-13
公开号:CN119311375B
公开日期:2025-02-18
类型:发明专利
摘要
本发明提供了一种多源异构数据处理方法、装置及系统,涉及数据处理技术领域,包括:对多个数据目录进行监听,并在监听到数据目录内存储的多源异构数据文件发生变化时创建数据扫描任务;利用数据扫描集群内包含的节点,针对目标数据目录执行数据扫描任务,得到目标数据目录内发生变化的多源异构数据文件;利用多级数据处理集群内包含的节点,基于预设的通用配置信息表,对多源异构数据文件中每个数据维度对应的字段进行标准化转换得到数据处理结果文件。本发明可以实现多源异构数据的统一处理,不仅显著提升多源异构数据的处理效率,还可以有效缓解多源异构数据处理过程中存在的任务堵塞、数据丢失、服务延迟等问题。
技术关键词
异构数据处理方法 集群 目录 文件特征 节点 机器学习模型 多源异构数据处理 数据复制 计算机可执行指令 数据处理技术 模块 处理器 队列 内存 消息
系统为您推荐了相关专利信息
1
多层网络取证方法、系统、电子设备及介质
网络取证方法 中继节点 取证软件 跳板 隧道
2
一种多传感器融合的气象数据综合分析平台
综合分析平台 多传感器融合 超声波测风传感器 气象 无人机集群
3
基于水力耦合和风光典型出力的风光水抽蓄调度优化方法
调度优化方法 抽水蓄能电站 风光 水力 典型
4
基于知识图谱的地理知识问答系统的构建方法
地理知识问答系统 地理实体 空间关系查询 服务器架构 节点
5
基于土壤污染物三维扩散数据的修复靶区划定方法及系统
土壤特征 地形特征 分段 三维地形模型 土壤污染物分析
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号