推理控制方法、装置、电子设备及计算机可读存储介质

本申请实施例公开了一种推理控制方法、装置、电子设备及计算机可读存储介质，该方法包括：响应于接收到目标输入，从预设缓存中确定针对目标输入的目标推理结果；若从预设缓存中匹配到目标推理结果，则输出目标推理结果；若从预设缓存中未匹配到目标推理结果，则调用目标推理模型对目标输入进行推理处理，得到目标推理结果。通过在接收到目标输入后，先从预设缓存中优先确定是否能够匹配到针对该目标输入的目标推理结果，并在匹配到该目标推理结果后直接输出，节省了实际推理的过程，提升了推理效率，同时避免了相同或者类似推理任务的再次执行，减少计算资源的消耗。