大语言模型输出保护方法和装置、存储介质、电子设备

本申请公开了一种大语言模型输出保护方法和装置、存储介质、电子设备，所述方法包括：从云服务器端获取大语言模型的语言模型头层对应的原始权重矩阵的维度信息、输入向量和第一输出向量，其中，第一输出向量基于输入向量和原始权重矩阵确定；基于原始权重矩阵的维度信息确定第一低秩矩阵和第二低秩矩阵；基于输入向量、第一低秩矩阵和第二低秩矩阵确定第二输出向量；基于第一输出向量和第二输出向量确定大语言模型输出的目标词概率分布向量。本申请的方法，能够防止云端根据语言模型头的输出直接推测出模型整体的文本输出，增强隐私保护，同时还能够降低将完整语言模型头层部署在本地所带来的存储和计算开销。