多源数据归并增量抽取方法和系统

AITNT
正文
推荐专利
多源数据归并增量抽取方法和系统
申请号:CN202411835004
申请日期:2024-12-13
公开号:CN119782421A
公开日期:2025-04-08
类型:发明专利
摘要
本发明涉及异构数据源数据同步技术领域,提供一种多源数据归并增量抽取方法和系统,方法包括:将源表中所有数据记录插入到目标表中;分别对源表和目标表进行逐行特征值计算;对计算得到的源表和目标表中的特征值进行归并排序,得到第一集合和第一时间复杂度以及第二集合和第二时间复杂度;计算差集;根据差集计算结果,确认插入记录和删除记录;分别对确认的插入记录和删除记录对应的插入数据和删除数据进行分片操作,形成多个插入分片和多个删除分片;分片操作后,先执行线程池批量删除各删除分片,再执行线程池批量插入各插入分片。本发明适用于所有关系型数据库表,库表无需存在自增主键或时间戳等特殊字段。
技术关键词
增量抽取方法 分片 特征值 批量 复杂度 上存储计算机程序 数据同步技术 MD5算法 关系型数据库 可读存储介质 抽取系统 处理器 模块 条目 存储器 电子设备 异构 字段
系统为您推荐了相关专利信息
1
一种可在OpenHarmoney部署的数据同步方法
数据同步方法 数据库查询接口 数据一致性校验 数据存储路径 管理器
2
一种基于IHBA-RF的陀螺仪组故障预测方法
故障预测方法 KPCA算法 陀螺仪 人工智能故障诊断技术 阶段
3
一种基于边缘计算的电动车碰撞信号快速处理传输系统
信号预处理模块 碰撞检测算法 信号采集模块 多路径 通信算法
4
无人机密码应用安全检测方法
密码安全性 建立通信 无人机飞行数据 测试场景 有效性
5
智能座舱软件的测试方法、装置、智能座舱及车辆
智能座舱 图谱 分片 软件 计算机执行指令
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号