模型加速方法、装置及设备

本发明涉及人工智能技术领域，提供一种模型加速方法、装置及设备，该方法包括：获取Transformer模型当前产生的图像处理任务，将图像处理任务对应的非线性函数分解成计算图；计算图中的节点表示非线性函数中的图像处理计算操作，边表示图像处理计算操作之间的数据流；基于计算图，对算术处理核心MPC多核阵列中的MPC进行配置，并基于多个配置后的MPC分布式执行图像处理任务；在得到图像处理任务的中间结果时，将图像处理任务的中间结果写入环形缓冲区进行下一轮计算；在得到图像处理任务的计算结果时，将图像处理任务的计算结果存储至相应的内存块。本发明确保连续流式处理无中断，避免内存碎片化，提高计算效率和资源利用率。