面向高并发API服务的AI网关多级缓存同步方法和系统

本发明公开一种面向高并发API服务的AI网关多级缓存同步方法及系统，获取请求提取请求中的数据信息，在内存中进行请求路由、安全认证、服务鉴权、流量控制；当请求次数达到预设阈值时，将所述数据信息写入系统缓存和/或数据库进行更新；当用户进行充值操作时，通过UpdateUser函数基于多级缓存架构获取用户数据进行余额计算及更新；基于发布订阅机制实时更新内存数据信息至系统缓存及数据库以进行数据一致性维护。在内存中完成请求路由、安全认证等关键操作，利用内存的高速读写特性，极大降低请求处理延迟，支撑每秒万级甚至更高的并发量。减少对后端缓存和数据库的依赖，避免性能瓶颈。