通过提早退出进行神经网络推理的安全加速

本发明涉及通过提早退出进行神经网络推理的安全加速。一种方法，用于确定针对测量数据的哪些输入记录，通过从神经网络的提早退出点获得输出而不是通过遍历整个神经网络，可以缩短由神经网络进行的处理，方法包括如下步骤：提供测量数据的校准记录的集合；由全神经网络处理测量数据的校准记录，以获得参考输出；记录神经网络在一个或多个提早退出点处针对校准记录输出的一个或多个提早退出输出，以及这些提早退出输出的相应置信度；提供预定条件的集合，预定条件各自取决于提早退出输出和参考输出两者；以及评估针对提早退出输出的置信度的一个或多个阈值，使得如果置信度超过阈值，则可以预期相应的提早退出输出满足条件。