一种适用于问答场景的模型推理方法、装置、设备及介质

本申请公开了一种适用于问答场景的模型推理方法、装置、设备及介质，涉及人工智能技术领域，包括利用目标语料数据中的先验知识，通过预设分词算法，将由生成的目标长词组成的新词表与原始词表构建映射关系；在预训练模型推理生成指定内容时，经过概率转移模型快速确定预训练模型最终的输出结果，解决了现有模型加速方法中精度低、模型训练成本及计算成本高的问题，整个推理过程中，只额外添加了一个概率转移模型，有效减少计算资源压力，提高整个系统的生成速度。并且，充分利用领域问答中先验知识，也能够提高领域专有词汇生成的准确率。