一种基于Docker的大数据处理方法、装置、设备及介质

AITNT
正文
推荐专利
一种基于Docker的大数据处理方法、装置、设备及介质
申请号:CN202510972352
申请日期:2025-07-15
公开号:CN120821529A
公开日期:2025-10-21
类型:发明专利
摘要
本申请公开了一种基于Docker的大数据处理方法、装置、设备及介质,涉及大数据处理技术领域,包括:确定初始Spark镜像,并基于预先编写的Shell脚本确定目标指令文件;利用Docker容器虚拟化技术,基于目标指令文件和初始Spark镜像生成目标Spark镜像;启动目标Spark镜像,并基于目标Spark镜像的集群管理模式启动目标Spark镜像中的Master节点和Worker节点;利用目标Spark镜像中的Master节点和Worker节点,基于预设任务执行触发机制执行相应的大数据计算任务。这样一来,本申请可以提升大数据组件的部署便捷性以及大数据计算任务的管理灵活性。
技术关键词
镜像 容器虚拟化技术 数据处理方法 节点 脚本 自定义网络 机制 命令 集群 大数据处理技术 中央处理器 目录 接口 存储计算机程序 数据处理装置 表达式 电子设备
系统为您推荐了相关专利信息
1
一种矿山巷道参数化实体模型构建方法
矿山巷道 终点 中心线 三维建模技术 三角网模型
2
一种基于大数据的新能源车辆售后数据管理系统
数据管理系统 新能源车辆 节点 大数据 数字孪生模型
3
一种基于合约执行历史的区块链交易并行执行方法
交易并行执行方法 杜鹃搜索算法 萤火虫算法 变量 亮度
4
MaaS平台大模型推理参数自动优化加速方法
优化加速方法 参数 设备架构 智能搜索算法 图形处理器卡
5
一种基于区块链的循环箱全生命周期管理方法、系统和程序产品
生命周期管理方法 两阶段提交 深度确定性策略梯度 配额 循环箱
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号