用于微服务的自适应速率限制和预测性重试

公开了用于微服务的自适应速率限制和预测性重试。根据所描述的技术，提供器服务接收包括由提供器服务发送至服务端点的请求的服务端点的请求日志。提供器服务从请求日志中提取请求日志数据，包括针对请求的失败计数和平均响应持续时间。失败计数包括由于提供器服务向服务端点发送过多请求而失败的请求以及由于服务端点的服务器侧错误而失败的请求。使用基于失败计数和平均响应持续时间的机器学习模型来预测服务端点的吞吐量容量。然后，提供器服务基于吞吐量容量调整服务端点的速率限制阈值，并且速率限制阈值限定提供器服务向服务端点发送请求的速率。