一种用于FDC的海量数据清洗方法

AITNT
正文
推荐专利
一种用于FDC的海量数据清洗方法
申请号:CN202511011865
申请日期:2025-07-22
公开号:CN120812089A
公开日期:2025-10-17
类型:发明专利
摘要
本发明涉及工业物联网数据处理技术领域,公开了一种用于FDC的海量数据清洗方法,包括以下步骤:S1、通过EAP程序利用SECS协议采集半导体制造设备的传感器数据,封装为JSON格式后上报至SpringBoot后端;S2、根据场景选择数据传输路径:高吞吐场景下将数据发送至RabbitMQ消息队列,低延迟场景下直接发送至DolphinDB流表;S3、对数据进行多维度异常检测与清洗。通过优化的MQ配置和并发存储机制,通过两种方式实现高性能数据处理,第一种方式满足芯片制造过程中海量的事实处理需求,第二种方式减少了中间环节,提高了数据处理效率,且实时性高,使得该方法的适配性提高。
技术关键词
海量数据清洗方法 孤立森林算法 布隆过滤器 海量数据清洗系统 工业物联网数据处理 滑动窗口 低延迟 高性能数据处理 场景 数据传输模块 异常数据 数据存储模块 数据采集模块 传输路径 数据同步 K近邻算法 刷新机制 半导体
系统为您推荐了相关专利信息
1
一种污水监测预警方法及系统
分布式传感器网络 管网拓扑结构 监测预警方法 智能分析决策 LSTM神经网络
2
基于物联网的露天采矿作业人员安全监控方法与系统
露天采矿作业 安全监控方法 中央监控系统 五点式安全带 动态路线规划
3
NUMA可感知的分布式并行文件系统元数据管理方法及系统
分布式并行文件系统 元数据管理方法 结点 热点 分区策略
4
一种基于Clickhouse的电商数据查询方法、设备及介质
电商数据查询方法 查询编译器 分布式爬虫 排序结构 分区策略
5
一种矿用变频供电系统网络攻击的多维度监测方法和系统
监测方法 供电系统 样本 孤立森林算法 指标
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号