一种用于AI编译器的基于子模型的调度方法

本发明公开了一种用于AI编译器的基于子模型的调度方法，本发明将预训练的ASTPB模型输出的结构信息编码运用在TVM模型中，使得TVM模型在对子模型调度过程中，能够考虑到子模型的结构特征，同时本发明对较小参数量的多头自注意力模型和前馈网络进行训练，从而能够快速获得预测运行时间，通过以上两点能够较快的实现对子模型的参数调度，使得子模型运行时间合适，提高调度效率。