摘要
本发明公开了一种基于消息队列的高性能时序数据解析与自适应传输系统,涉及数据传输技术领域,该系统包括:时序数据文件监听模块,用于监听时序数据文件夹,触发解析任务;双引擎解析器模块,用于判定待处理文件的格式类型,启用相应的文件解析引擎,并采用智能数据分类算法进行分类,分配至不同解析线程;自适应线程池模块,用于基于动态令牌桶算法,动态调整虚拟线程数量,执行数据解析处理任务;双主题优先级调度模块;网络自愈断点续传模块;磁盘健康管理模块。本发明支持高达每秒50万点高并发时序数据解析发送,在面对网络波动的情况下可以自适应启停程序,且支持实时和历史数据的优先级调度和分区分主题发送。
技术关键词
队列
实时数据
高性能
消息
随机森林模型
数据分类算法
网络
映射技术
数据分类器
主题
强化学习算法
文件夹
动态令牌
模块
识别时序数据
GPU并行计算
系统为您推荐了相关专利信息
自动驾驶域控制器
车身控制器
自动驾驶功能
车身传感器
报文
PID控制算法
PID控制器
BP神经网络
生成控制指令
控制器模块
信号预处理模块
风险
生理
情绪识别模型
信号采集模块