基于键列分区的HIVE分组运算性能优化与调度方法

AITNT
正文
推荐专利
基于键列分区的HIVE分组运算性能优化与调度方法
申请号:CN202510144047
申请日期:2025-02-10
公开号:CN119597490B
公开日期:2025-05-16
类型:发明专利
摘要
本发明提供基于键列分区的HIVE分组运算性能优化与调度方法,涉及数据处理技术领域,包括通过构建键列分布直方图,确定键列分区策略,对数据进行预处理;基于资源评估和动态规划算法优化数据分区;采用最小生成树算法计算最优数据传输路径,并动态调整分配方案。本发明可提高HIVE分组运算性能,实现计算负载的动态平衡,有效解决数据倾斜问题,提升大规模数据处理效率。
技术关键词
分布式计算集群 数据 分布直方图 节点 分区策略 动态规划算法 多层感知机 生成树 矩阵 动态平衡状态 复杂度特征 生成资源 计算机程序指令 低密度 系统性能提升 网络拥塞程度
系统为您推荐了相关专利信息
1
一种空陆智能四足查险机器人及险情评估系统
评估系统 险情 机器人 控制设备 缓冲筒
2
一种基于热能传递的电容器容值衰减评估方法
电容器外壳 多时间尺度 NARX神经网络 热能 电流
3
一种基于机器学习的海洋牧场选址评估方法
选址评估方法 生态 指数 气候 实时数据
4
一种基于光学眼底影像的视网膜血流动力学分析测量系统
血液动力学数据 血流 仿真分析 影像 血管壁
5
一种电力数据动态传输访问控制与身份验证部署策略
动态访问控制 身份验证方法 粒子群优化算法 双向身份认证 生成机制
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号