一种用于音视频的模型推理方法、装置及电子设备

本申请提供了一种用于音视频的模型推理方法、装置及电子设备，其中，方法包括：获取待推理的音视频数据；待推理的音视频数据包括多帧数据；将待推理的音视频数据输入至第一层决策模型，获得第一输出结果；第一层决策模型是通过有效数据和负样本数据对预先构建的第一层智能体进行训练得到的；若第一输出结果表明需要采用多推理卡并发来处理待推理的音视频数据，则将待推理的音视频数据输入至第二层决策模型，获得第二输出结果；通过第二输出结果，决策出对待推理的音视频数据进行推理的至少两个推理卡；由至少两个推理卡对待推理的音视频数据进行推理，获得针对各帧数据的经推理后的结果。