大语言模型的输出错误检测的方法、装置、设备和介质

本公开的提供了用于大语言模型的输出错误检测的方法、装置、设备、存储介质和程序产品。示例方法包括：基于提示词信息，利用机器学习模型生成输出信息，机器学习模型对输出信息的生成包括多个推理阶段，多个推理阶段分别由大语言模型的不同模型结构层来执行。针对多个推理阶段中的至少一个推理阶段中的每个推理阶段，基于机器学习模型在该推理阶段的处理数据和该推理阶段对应的模型结构层，确定该推理阶段的状态特征，以得到分别与至少一个推理阶段对应的至少一个状态特征。基于至少一个状态特征，确定关于输出信息是否存在错误的检测结果。