基于服务网格的模型测试方法、装置、设备及存储介质

本申请实施例提出的基于服务网格的模型测试方法、装置、设备及存储介质，该方法包括：获取第一产线客户端的第一推理请求，基于服务网格对第一推理请求进行镜像采集，得到第一镜像数据；其中，第一镜像数据包括第一镜像数据实体与第一镜像数据标签；将第一镜像数据实体和第一镜像数据标签存储在采集容器中；获取第一待测模型、和对应于第一待测模型预设的筛选基准信息；基于筛选基准信息在采集容器中与第一镜像数据标签进行匹配，得到第一镜像数据实体；通过第一镜像数据实体对待测模型进行性能测试，得到模型测试数据。实现了对产线上产生的真实推理数据的进行统一收集管理，不需要针对每一个推理服务单独编译程序，降低了推理服务的开发复杂度。