基于大模型的推测解码方法、装置、设备以及存储介质

本公开提供了基于大模型的推测解码方法、装置、设备以及存储介质，涉及人工智能技术领域，尤其涉及计算机视觉、深度学习、大模型等技术领域。具体实现方案为：将第一词元序列输入第一大模型，得到第二词元序列；其中，该第一大模型是根据第二大模型量化得到的，该第一词元序列基于多模态数据得到；将该第一词元序列和该第二词元序列输入该第二大模型，得到第三词元序列；根据该第二词元序列和该第三词元序列进行验证，得到推测解码结果。