一种面向Transformer的专用加速器系统

本发明提出了一种面向Transformer的专用加速器系统，属于深度学习领域。本发明包括多个可重构计算核，多个可重构计算核互联形成片上网络；每一可重构计算核均包括存储器、计算单元以及重构控制器；存储器用于存储计算所需的参数、数据和指令；重构控制器用于对计算单元进行重构配置，从而使得计算单元在计算时具备特定的算子功能；计算单元被重构控制单元配置后实现特定功能的计算。本发明可实现Transformer多核并行计算，并通过多线程并行的方式高效利用算法中的数据并行特性，实现低延迟计算。