一种基于局部敏感哈希的Transformer硬件加速器及加速方法

本发明提供一种基于局部敏感哈希的Transformer硬件加速器及加速方法。本发明基于局部敏感哈希的Transformer加速方法，采用基于MinHash算法的局部敏感哈希筛选方案，MinHash算法能实现向量降维，从而在获取比较好的Q‑K向量对筛选效果的情况下，降低局部敏感哈希筛选的运算量，提高加速效率，更利用硬件实现。本发明基于局部敏感哈希的Transformer硬件加速器，针对Transformer网络自注意力机制运算特点所带来的硬件实现瓶颈问题，采用基于MinHash文本相似度算法的LSH筛选方案，不但能获取比较好的Q‑K向量对筛选效果，且效率高，硬件结构易于实现。