请求处理方法、装置、设备、存储介质和计算机程序产品

本申请涉及一种请求处理方法、装置、设备、存储介质和计算机程序产品。方法包括：从本地磁盘读取多模态数据到本地内存进行数据编码得到编码数据；根据编码数据生成并发送多模态推理请求；将编码数据持久化到本地磁盘后，释放本地内存中的多模态数据与相应的编码数据，本地磁盘中的编码数据用于在请求失败的情况下根据编码数据重新发起多模态推理请求；接收针对多模态推理请求反馈的推理结果。采用本方法能够降低多模态推理客户端所在本地的内存占用，从而避免多模态推理客户端所在终端设备的性能受到影响，还能提高单机可并发的请求数量。