一种算力网络中负载感知的多微服务副本弹性伸缩方法

AITNT
正文
推荐专利
一种算力网络中负载感知的多微服务副本弹性伸缩方法
申请号:CN202411685487
申请日期:2024-11-23
公开号:CN119512759B
公开日期:2025-07-18
类型:发明专利
摘要
本发明公开了一种算力网络中负载感知的多微服务副本弹性伸缩方法,旨在应对动态的在线工作负载环境,保证端到端响应时延满足服务水平协议(SLA)的同时提高微服务资源利用率。该发明首先通过Prometheus、cAdvisor和Istio等插件采集Kubernetes集群中各微服务的历史性能数据,并将这些数据存储于时间序列数据库中,构建训练数据集。随后,根据微服务之间的调用关系和数据集中的微服务特征构建图数据结构,利用图注意力网络训练多微服务CPU利用率和P90响应延迟预测器,从而形成智能体可交互的模拟环境。基于此模拟环境,设计并训练深度上下文多臂赌博机模型,结合上置信界(UCB)策略,在大状态空间和复杂非线性关系中选择最优的副本调整策略,实现多微服务系统的自动水平伸缩。最终,将训练好的模型部署于实际环境中,通过Prometheus定期监测和更新微服务的上下文信息,进行实时副本调整,降低SLA违规风险并提升资源利用率。
技术关键词
上下文多臂赌博机 弹性伸缩方法 Kubernetes集群 副本 上下文特征 微服务系统 服务网格技术 时间序列数据库 注意力 历史性能数据 服务水平协议 节点特征 策略 服务特征 深度神经网络 负载模式 算法 关系
系统为您推荐了相关专利信息
1
一种基于异构联邦学习的自适应聚合系统及方法
客户端 参数 信息熵 模型更新 服务器
2
一种基于尺度和视图共感知的肿瘤分割方法及系统
肿瘤分割方法 医学图像数据 上下文特征 生成多尺度 多尺度特征
3
一种铁路客票推荐方法和系统
客票 铁路 画像模型 推荐方法 画像特征
4
训练方法、轨迹规划方法、电子设备
车辆轨迹规划 场景 多阶段 轨迹规划方法 数据
5
数据动态迁移存储方法、装置、设备及介质
机械硬盘 存储方法 数据块迁移 噪声参数 副本
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号