AI芯片中的算子性能评估方法、装置、设备及介质

本发明公开了一种AI芯片中的算子性能评估方法、装置、设备及介质。该方法包括：根据AI芯片中数据搬运及计算算子的算子特征、各级缓存的存储特征和计算核特征，获取算子在AI芯片各级缓存间的切分策略；根据与AI芯片适配的带宽模型，计算算子的每条切分策略在各级缓存之间执行数据搬运时的数据搬运耗时；根据与AI芯片适配的算子计算核性能模型，计算算子在一级缓存上针对每条切分策略执行计算时的计算耗时；根据计算耗时和数据搬运耗时，结合切分策略中包括的数据搬运和计算相互隐藏的策略，计算算子针对每条切分策略的算子总耗时，对算子进行算子性能评估。可以在最小人力成本的基础上，快速且全面的评估出AI芯片的算子性能。