基于视觉大模型Token并行化的图像分类方法及设备

本申请公开了一种基于视觉大模型Token并行化的图像分类方法及设备，涉及图像分类技术领域，该方法包括：主节点在接收到图像处理请求时，将待处理图像输入到动态分辨率预测器模块确定待处理图像的最优分辨率，并基于最优分辨率对待处理图像进行尺寸调整，得到尺寸调整图像；在最优分辨率大于分辨率预设值时，根据等待队列和图像处理要求，利用动态规划算法确定动态规划结果；将等待队列中第一个请求打包为多个token包；按照动态规划结果，所有token包分别发送至不同边缘设备处理。本申请通过设置图像token数量优化装置和推理服务规划装置，能够提高图像分类时边缘设备集群的响应速度和稳定性。