推理装置测试方法、装置、设备、存储介质及程序产品

本申请公开了一种推理装置测试方法、装置、设备、存储介质及程序产品，其中，所述方法包括：获取测试集群的剩余资源信息、并获取至少两个测试任务中每一所述测试任务的测试参数和测试优先级；所述剩余资源信息至少用于表征所述测试集群中推理装置的工作状态；基于所述剩余资源信息和各所述测试任务的测试参数和测试优先级，为各所述测试任务分配推理装置；通过分配的所述推理装置，基于所述测试任务的测试参数执行所述测试任务，得到所述推理装置对应的测试结果。