大模型预测方法、装置及电子设备

本申请提供一种大模型预测方法、装置及电子设备，涉及人工智能技术领域，其中，所述方法包括：在大模型接收到输入的第一信息的情况下，获取大模型的第一层级输出的第一解码结果和第二层级输出的第二解码结果；获取第一解码结果和第二解码结果的差异信息，并基于差异信息在第二解码结果中添加标记；基于标记，根据第一信息对第一解码结果进行检索得到第一检索结果；利用第一检索结果对第一解码结果进行验证得到第一验证结果，并基于第一解码结果和第一验证结果生成第一预测结果。本实施例，获取准确度较高的第一解码结果，并基于标记对第一解码结果检索以进一步进行验证，能够提高生成的预测结果的准确性。