一种基于API技术的算力统一接入管理方法

AITNT
正文
推荐专利
一种基于API技术的算力统一接入管理方法
申请号:CN202411466986
申请日期:2024-10-18
公开号:CN119520187A
公开日期:2025-02-25
类型:发明专利
摘要
本申请提供一种基于API技术的算力统一接入管理方法,包括:在AP I网关的限流熔断组件中,实时监测每个接口的请求量和响应时间,当请求量超过限流阈值,则进行限流和熔断操作,对超出阈值的请求重新排队;运用自适应限流方法,根据接口的实时流量变化,动态调整令牌生成速率和漏桶的漏出速率,对流量的进行精细化控制和平滑处理,避免突发流量对系统造成冲击;实时监测每个接口的流量、响应时间和错误率,综合不同AP I网关接口,建立限流熔断模型,运用随机森林方法,将模型对历史数据进行训练和学习,自主优化限流阈值和熔断规则。
技术关键词
滑动时间窗口 令牌 接口 错误率 熔断组件 熔断器 策略 随机森林 接入管理方法 健康状态数据 动态调整机制 网关 队列 限流方法 移动平均算法 历史流量数据 决策树方法 环形缓冲区 实时数据
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号