一种通用的性能卓越的datax插件

AITNT
正文
推荐专利
一种通用的性能卓越的datax插件
申请号:CN202410922779
申请日期:2024-07-10
公开号:CN118778932A
公开日期:2024-10-15
类型:发明专利
摘要
本发明涉及数据传输技术领域,具体公开了一种通用的性能卓越的datax插件,包括:int单元、prepare单元、getCopySql单元、executeCopySql单元,init单元读取和校验插件里配置信息,初始化copyJob,prepare单元根据插件里的配置信息生成数据库jdbc连接,测试jdbc连接是否正常访问,获取配置里的preSql,并执行preSql;本发明利用GPDB的COPY特性,在alibaba datax的框架体系下原创实现了高效的PostgresYMWriter插件用以代替alibaba datax官方的PostgresqlWriter插件,同时应用NewIP协议栈使得PostgresYMWriter插件能够处理不同来源的异构数据,并且结合对数据传输过程负载以及流量的实时监控与调整。
技术关键词
插件 生成数据库 验证数据完整性 负载均衡算法 流控算法 数据传输技术 集群 错误检测 服务器 协议 接收端 异构 语句 策略 动态 速率 框架 网络
系统为您推荐了相关专利信息
1
一种通用型防水透气的气体传感器
气体传感器 底壳 通用型 传感器芯片密封 防水透气膜
2
一种为陪伴机器人提供大模型能力的硬件插件系统
陪伴机器人 插件系统 机器人系统交互 机器人控制系统 插件接口
3
一种基于多维度动态优化的智能短信调度方法和装置
通道 策略 短信调度方法 负载均衡算法 决策树模型
4
一种基于插件机制的工业软件智能搭建系统及方法
插件机制 插件功能 软件 文本 动态更新
5
基于大语言模型的推理流程确定方法、装置、设备及介质
自然语言 自主系统 计算机可执行指令 大语言模型 意图识别
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号