摘要
本发明涉及分布式多源异构数据资源处理方法、系统和设备,通过对分布式资源进行深入研究分析,将资源更新处理划分为数据清洗、数据融合和数据编目三个部分,首先采用了Tire树关键字匹配算法快速准确的实现数据去重,然后采用了Hash Join融合算法,结合实际应用场景及多种融合需求,提高多表融合效率,最后采用L‑C增量抽取方式,基于数据库事务日志实现增量抽取,从而完成总体的分布式资源更新处理,这些任务均在资源配置子系统中通过任务中间件执行,相比传统技术,提高了复杂、实时条件下分布式多源异构数据更新的效率及实时性。
技术关键词
多源异构数据
中间件
分布式资源
融合规则
关键字
资源更新
数据获取模块
融合算法
计算机设备
存储器
子系统
处理器
日志
场景
系统为您推荐了相关专利信息
水泥企业碳排放
分析决策系统
分析模块
数据可视化展示
大数据
抽象语法树
语句生成方法
语义规则
广度优先搜索算法
数据
数字孪生系统
动态仿真模型
数据服务平台
北斗卫星监测
子系统
威胁检测系统
企业网络环境
数据处理模块
数据采集模块
框架