融合可信执行环境与差分隐私的大模型安全推理方法及系统

本发明公开一种融合可信执行环境与差分隐私的大模型安全推理方法及系统，属于人工智能技术领域，所述方法包括：将大模型划分为嵌入层与核心处理层，嵌入层部署于本地客户端SGX2可信环境中，核心处理层部署在配备多GPU加速卡的远程服务器上；基于本地差分隐私技术，采用输出噪声最大值算法对用户原始输入数据进行文本混淆；将混淆后的文本数据通过嵌入函数进行向量映射；将嵌入向量加密传输至服务器GPU中，通过自注意力机制和前馈神经网络进行处理，生成预测结果并返回给客户端。本发明可以解决现有大模型推理中数据隐私保护与计算效率之间的矛盾问题。