一种模型的任务执行方法、装置、电子设备及可读介质

本发明实施例提供了一种模型的任务执行方法、装置、电子设备及可读介质，应用于模型，所述模型包括至少一个任务执行设备，将待执行任务拆分为至少一个待执行子任务；为所述待执行子任务分配对应的目标任务执行设备；所述目标任务执行设备中包括芯片；利用所述目标任务执行设备的所述芯片执行所述待执行子任务。可以利用现有较低性能和容量的GPU(图形处理单元)等异构设备进行加速，降低大模型及其他大规模深度学习模型的推理成本。