摘要
本发明涉及工业物联网数据处理技术领域,公开了一种用于FDC的海量数据清洗方法,包括以下步骤:S1、通过EAP程序利用SECS协议采集半导体制造设备的传感器数据,封装为JSON格式后上报至SpringBoot后端;S2、根据场景选择数据传输路径:高吞吐场景下将数据发送至RabbitMQ消息队列,低延迟场景下直接发送至DolphinDB流表;S3、对数据进行多维度异常检测与清洗。通过优化的MQ配置和并发存储机制,通过两种方式实现高性能数据处理,第一种方式满足芯片制造过程中海量的事实处理需求,第二种方式减少了中间环节,提高了数据处理效率,且实时性高,使得该方法的适配性提高。
技术关键词
海量数据清洗方法
孤立森林算法
布隆过滤器
海量数据清洗系统
工业物联网数据处理
滑动窗口
低延迟
高性能数据处理
场景
数据传输模块
异常数据
数据存储模块
数据采集模块
传输路径
数据同步
K近邻算法
刷新机制
半导体
系统为您推荐了相关专利信息
分布式传感器网络
管网拓扑结构
监测预警方法
智能分析决策
LSTM神经网络
露天采矿作业
安全监控方法
中央监控系统
五点式安全带
动态路线规划
分布式并行文件系统
元数据管理方法
结点
热点
分区策略
电商数据查询方法
查询编译器
分布式爬虫
排序结构
分区策略