摘要
本申请公开了一种数据采集方法、装置、设备及存储介质,涉及数据挖掘技术领域,应用于包含若干数据采集单元的控制节点,包括:将若干数据采集单元分配至若干网站服务器,以便若干数据采集单元从相应网站服务器采集实时数据;获取若干数据采集单元采集到的实时数据,并将实时数据保存至本地数据库,以便基于实时数据更新本地数据库的状态信息;根据预设数据上传周期和状态信息生成针对本地数据库中数据的数据上传任务,并基于预设任务执行策略执行数据上传任务,以完成相应的数据采集过程。这样一来,本申请可以通过不同网站服务器上的数据采集单元采集实时数据,并更新本地数据库的状态信息,以便及时上传数据;能够提高数据采集效率和时效性。
技术关键词
数据采集单元
数据采集方法
实时数据
服务器
周期
数据采集效率
数据上传模块
多线程方式
数据挖掘技术
数据采集装置
策略
数据采集模块
页面
节点
队列
可读存储介质
时效性
处理器
电子设备
系统为您推荐了相关专利信息
长短期记忆模型
鲸鱼优化算法
控制管理系统
变电站
数据采集模块
电路系统
非暂态计算机可读存储介质
密钥
受信任执行环境
图形处理器
机器人协议
指令控制方法
通信服务
通信接口
指令控制装置
进程监控
计算机系统监控技术
主机运行环境
文件系统解析
网络流量捕获
监测方法
注意力
序列
前馈神经网络
特征提取单元