摘要
本申请涉及大数据处理技术领域,提供了海量数据存储优化方法,该方法包括:根据数据的访问频率和/或访问时间对目标数据进行分析,将目标数据划分为热数据、温数据和冷数据;针对热数据、温数据和冷数据,分别采用对应的压缩算法进行压缩处理;在存储目标数据之前,根据目标数据的指纹对目标数据进行去重;实时监控内存的使用情况、对目标数据的访问频率以及压缩算法的性能并根据监控结果调配系统资源;设置多级缓存,并根据目标数据被划分的种类将不同种类的目标数据缓存至多级缓存。本申请的技术方案可以对海量数据的高效存储和快速访问,显著提升了存储空间利用率和系统整体性能。
技术关键词
数据存储优化方法
压缩算法
缓存替换算法
构建数据指纹
存储空间利用率
频率
大数据处理技术
布隆过滤器
处理器
哈希算法
优化装置
内存
动态
模块
存储器
因子
系统为您推荐了相关专利信息
水下机器人
深度强化学习
搜索定位方法
三维地图数据
六自由度位姿信息
下载方法
分布式哈希表
有损压缩算法
数据压缩算法
无损压缩算法
防控系统
城镇
纹理压缩技术
数据存储模块
分层存储结构
云监测方法
视觉分析技术
水利工程施工现场
分布式计算平台
负载均衡技术
自动转运系统
存储管理方法
存储空间管理
样本
转运小车