摘要
本发明属于数据处理技术领域,具体提供一种基于NiFi集群的多源异构数据融合查询方法及系统,所述方法包括:通过统一的查询接口接收用户的SQL查询请求,生成查询任务,并动态分配查询任务至不同数据处理节点;所述数据处理节点接收到查询任务后执行如下操作:基于查询任务获取SQL查询语句,将所述SQL查询语句解析成抽象语法树,并基于优化规则和统计信息对抽象语法树进行优化,生成跨异构数据源的最优执行计划;执行所述最优执行计划,从多个异构数据库中提取数据,并进行数据转换和整合生成查询结果;S4、通过所述统一查询接口返回查询结果,并对查询结果进行缓存。直接在数据源上执行查询,避免了数据迁移过程中的潜在问题。
技术关键词
融合查询方法
抽象语法树
查询语句解析
异构
负载均衡模块
计划
集群
节点
负载均衡算法
查询系统
SQL解析器
监控单元
接口
逻辑
索引
处理单元
数据处理技术
数据迁移
系统为您推荐了相关专利信息
融合特征
脑电图数据
并行特征提取
多项式
训练预测模型
预警方法
智能合约代码
分布式计算资源
数据预处理器
多源异构大数据