一种基于CNN的VCC编码模式快速选择方法

本发明提供了一种基于CNN的VCC编码模式快速选择方法，该方法包括：将CTU的亮度分量输入到训练好的VCC编码模式选择模型，得到不同尺寸CU的各个编码模式的预测概率；对编码模式进行降序排序，编码器优先检查最高概率的编码模式；根据预设的编码模式阈值，采用决策树模型判断是否提前终止编码模式的检查；判断CU选择的编码模式是否为Intra模式；若为Intra模式，将亮度分量输入到变换模式选择模型中，输出不同尺寸CU的各个变换模式的预测概率；对变换模式进行降序排序，编码器优先检查最高概率的变换模式；根据预设的变换模式阈值，采用决策树模型判断是否提前终止变换模式的检查；选择变换模式完成CU编码。该方法可以保证编码质量并且显著提升编码效率。