用于AI大模型调用的流量限制方法、装置及设备

本发明涉及电数字数据处理技术领域，尤其涉及一种用于AI大模型调用的流量限制方法、装置及设备。方法包括：当检测到用户的初次问题请求时，确定用户的流量阈值，创建用户的流量计数器，调用目标AI大模型对初次问题请求进行处理；当检测到用户的后续问题请求时，检测用户的流量计数器的计数值是否小于用户的流量阈值；若是，则调用目标AI大模型对后续问题请求进行处理，否则，将流量限制提示信息确定为处理结果；当检测到满足流量阈值更新条件时，根据用户的问题请求序列的问题领域类别更新用户的流量阈值。本发明实施例可以基于用户的问题请求在为用户提供问题请求处理服务的过程中动态调整流量阈值，提高流量限制过程的灵活性。