摘要
本发明属于数据处理技术领域,本发明公开了一种基于大数据的动态可配置数据清洗方法及其系统,包括采集异构数据源,结合数据源适配接口进行异构数据源接入;利用模拟抗原识别记忆机制,对异构数据源中的异常模式进行识别并编码为抗原指纹;基于抗原指纹构建数据价值密度评分函数,得到数据价值密度评分;根据数据价值密度评分构建三维存储拓扑空间,采用晶格迁移算法,自动识别冷热数据临界点,在异构数据源降温至预设温度阈值时触发分层迁移,引入热力学扩散机制,将异构数据源在三维存储拓扑空间中的迁移过程模拟为热扩散路径;显著提升了清洗任务的运行效率。
技术关键词
清洗规则
数据清洗方法
动态可配置
异构
大数据
指纹
密度
记忆机制
双链结构
数据依赖关系
清洗流水线
清洗策略
可配置逻辑模块
节点
数据清洗系统
分层
抗体
系统为您推荐了相关专利信息
管理方法
资源调度策略
大数据分析方法
BIM建筑信息模型
强化学习模型
大语言模型
智能规划方法
文本
废旧零部件
数学模型
大数据算法
数据采集单元
预警系统
数据分析单元
可视化单元
风险预测评估方法
风险预测模型
客户
非线性特征
时间序列特征