一种推理引擎的引擎参数调整方法、装置

本申请公开了一种推理引擎的引擎参数调整方法，包括：获取推理引擎中用于在推理过程缓存数据的缓存空间的当前缓存信息，当前缓存信息包括：缓存空间中的当前数据量、以及入速率、出速率，以出速率作为用于控制缓存空间数据量的控制量，对控制量进行累计，利用当前数据量、当前入速率、以及当前出速率，以累计控制量为约束，构建用于表征缓存空间不溢出的目标函数，获取目标函数在缓存空间不溢出时的控制量估计，根据控制量估计，确定与控制量估计差异最小的配置出速率，根据配置出速率确定与该配置出速率对应的配置引擎参数，并根据该配置引擎参数调整当前引擎参数。本申请实现了推理引擎的引擎参数的自适应调整，提高了推理引擎的性能。