一种实现ETL数据处理流程优化的智能化数据整合方法、系统、设备及介质

AITNT
正文
推荐专利
一种实现ETL数据处理流程优化的智能化数据整合方法、系统、设备及介质
申请号:CN202411863273
申请日期:2024-12-17
公开号:CN120030071A
公开日期:2025-05-23
类型:发明专利
摘要
本发明提供一种实现ETL数据处理流程优化的智能化数据整合方法、系统、设备及介质,属于数据处理技术领域,所述方法包括如下步骤:从来源库中收集元数据信息,并对元数据信息进行分析,识别出关键信息;使用大模型分析系统对元数据信息及关键信息进行解析,并识别出来源库中缺失的数据,再根据解析结果对缺失的数据进行填充;进行ETL任务基础配置,并生成全量ETL任务及增量ETL任务;定义数据处理的调度策略,并按照数据处理的调度策略启动ETL任务的执行。本发明实现了ETL数据处理流程的优化,提高了数据整合的效率和灵活性,能够自动分析元数据、识别关键信息、填充缺失数据,并自动生成ETL任务,减少了人工干预。
技术关键词
数据整合方法 脚本 识别关键信息 任务调度执行 数据整合系统 策略 智能识别算法 关键字 分析系统 机器学习算法 数据处理技术 基础 处理器 定义 字段 识别模块 索引 存储器 电子设备
系统为您推荐了相关专利信息
1
混合模块建筑的建模分析方法、装置、设备及介质
建筑有限元模型 混合模块 建模分析方法 分析组件 节点
2
软件包的安装方法及系统、电子设备及存储介质
服务集群 软件包 Kubernetes集群 安装工具 主机
3
一种微型电脑主机老化测试方法及系统
微型电脑主机 老化测试方法 量子随机数生成器 负载模式 图形处理
4
一种基于嵌入式板卡的数据采集方法及系统
嵌入式板卡 数据采集方法 事件驱动架构 脚本 机制
5
一种文件存储网关线程健康检测方法及系统
健康检测方法 异常状态 子模块 异常信息 自定义脚本
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号