一种适用于AI芯片的量化调优装置及方法

本发明实施例公开了一种适用于AI芯片的量化调优装置及方法，所述方法包括：按约束条件将模型拆分成多个子图；其中，所述模型为深度学习浮点模型，所述约束条件为AI芯片在量化过程中所面临的限制；采用组合方式，组合了众多调优设定，以得到对应的调优策略；依次对每个子图结合所述调优策略进行调优处理并进行效果判断；若判断结果为优于调优前且已为最后一个子图时，结束量化调优并更新对应的量化参数；其效果是：本发明能够在保持模型精度的前提下，实现更好的模型压缩和加速效果。