摘要
本发明涉及异构数据源数据同步技术领域,提供一种多源数据归并增量抽取方法和系统,方法包括:将源表中所有数据记录插入到目标表中;分别对源表和目标表进行逐行特征值计算;对计算得到的源表和目标表中的特征值进行归并排序,得到第一集合和第一时间复杂度以及第二集合和第二时间复杂度;计算差集;根据差集计算结果,确认插入记录和删除记录;分别对确认的插入记录和删除记录对应的插入数据和删除数据进行分片操作,形成多个插入分片和多个删除分片;分片操作后,先执行线程池批量删除各删除分片,再执行线程池批量插入各插入分片。本发明适用于所有关系型数据库表,库表无需存在自增主键或时间戳等特殊字段。
技术关键词
增量抽取方法
分片
特征值
批量
复杂度
上存储计算机程序
数据同步技术
MD5算法
关系型数据库
可读存储介质
抽取系统
处理器
模块
条目
存储器
电子设备
异构
字段
系统为您推荐了相关专利信息
数据同步方法
数据库查询接口
数据一致性校验
数据存储路径
管理器
故障预测方法
KPCA算法
陀螺仪
人工智能故障诊断技术
阶段
信号预处理模块
碰撞检测算法
信号采集模块
多路径
通信算法
密码安全性
建立通信
无人机飞行数据
测试场景
有效性