摘要
本发明公开了一种数据安全并集处理方法及系统,属于数据管理技术领域,解决了由于哈希冲突是哈希算法的固有缺陷,无法完全避免,引入跨分片检索会破坏分片并行性,显著增加合并复杂度,导致分片号匹配可能因哈希冲突导致实际关联数据分散在不同分片,需跨分片检索的问题。包括如下步骤:动态分片,根据主键的数据热度。本发明通过动态分片、分布式布隆过滤器冲突预检及局部重定向查询技术,结合多线程并行处理和实时负载均衡优化,将哈希冲突导致的跨分片检索比例进行限制,在保障分片并行性的同时降低哈希冲突率,进行超大数据集合并,避免出现分片号匹配可能因哈希冲突导致实际关联数据分散在不同分片,需跨分片检索的问题。
技术关键词
分片
数据安全
布隆过滤器
分布式路由表
保证数据一致性
列表
动态
接口模块
多线程并行处理
负载均衡优化
存储模块
哈希算法
数据管理技术
模拟退火算法
梯度下降算法
无锁队列
PID控制器
生成快照
系统为您推荐了相关专利信息
PACS系统
压缩影像数据
图像传输方法
医疗影像数据
分片
智能巡检技术
智能分析模型
电力设备
数据可视化
操作系统
大语言模型
矩阵分解技术
自然语言信息
服务系统
社会弱势群体
参数配置方法
负载特征
日志
样本
非暂态计算机可读存储介质