一种基于机器学习的VVC快速帧内编码模式决策方法

本发明请求保护一种基于机器学习的VVC快速帧内编码模式决策方法，属于视频编码领域，该方法包括以下步骤：获取当前待编码CU的纹理信息、子块纹理信息和领域信息用于LightGBM模型预测；首先使用训练好的LightGBM模型对三个类别的概率进行预测，三个类别分别为：0(角度预测模式)、1(ISP模式)、2(MIP模式)；将概率与阈值进行比较，并且去除概率低于阈值的类别，以减少需执行完整的率失真优化过程的候选模式的数量；此外，在类别0被保留的情况下，进一步使用另一个LightGBM模型预测67种角度预测模式的概率，并去除概率较低的预测模式。本发明在保证视频质量的前提下，能显著节省H.266/VVC的帧内编码时间，适用于实时性要求较高的视频编码应用场景。