大语言模型可解释性分析方法、装置、设备和存储介质

本申请实施例提供大语言模型可解释性分析方法、装置、设备和存储介质，涉及人工智能技术邻域。该方法获取大语言模型的输入数据和推理结果，获取输入词元和结果词元构成的词元组的相关参数生成映射矩阵，计算映射矩阵中每个词元组的邻域平均参数，选取词元组的相关参数大于邻域平均参数的部分词元组作为候选词元组，基于候选词元组计算映射矩阵对应的显著性参数，如果显著性参数大于或等于预设显著性指标，将候选词元组作为特异性词元组，根据所有特异性词元组得到大语言模型的可解释性分析结果。迅速定位与模型可解释性密切相关的特异性词元组，减少分析工作量与复杂度，提高结果的准确性，提升大语言模型的可信度与透明度。