摘要
本发明涉及数据存储与管理技术领域,具体是一种超大规模科创数据的分布式存储与管理方法、系统及设备。所述方法包括:基于分布式存储架构获取超大规模科创数据,将所述数据切分成多个小块并分配至多个存储节点;对存储节点中的数据进行压缩与去重处理,生成高效存储的数据序列;基于所述数据序列,采用智能算法对数据进行自动分层存储;基于分层存储的结果,利用多因子协同优化负载均衡算法计算节点综合负载值,筛选高负载节点中的数据块进行优先迁移;结合分布式存储架构与智能数据管理系统,通过分布式一致性算法实现数据一致性管理。本发明增强了系统的可靠性和扩展性,适用于科技研发和大数据分析等场景。
技术关键词
分布式存储架构
超大规模
分布式一致性算法
节点
智能数据管理系统
负载均衡算法
管理方法
多模态传感器
管理数据一致性
数据一致性管理
访问日志数据
分配存储资源
分布式计算框架
故障恢复模块
冗余存储单元
校验信息
分层
压缩算法
数据迁移
系统为您推荐了相关专利信息
自动构建方法
节点
坐标
自动布线技术
自动布局技术
动态生成方法
模型库
动态仿真模型
图论算法
参数
动态邻接矩阵
仿真分析方法
低压配电网拓扑
误差向量
断路器动作时间