基于可信执行环境的大模型安全推理方法、介质及设备

本发明涉及一种基于可信执行环境的大模型安全推理方法、介质及设备，所述方法包括以下步骤：通过可信执行环境生成对应于大模型服务供应商的可信的公私钥对，所述公私钥对中，公钥发送给用户端，私钥通过数据密封持久化存储于可信执行环境中；接收用户端发送的加密数据和数字信封，所述加密数据为经对称密钥加密的提示词数据，所述数字信封为经所述公钥加密的对称密钥；通过所述可信执行环境，基于所述加密数据和数字信封获得原始提示词；在所述可信执行环境中，基于所述原始提示词进行大模型推理，将经所述对称密钥加密后的推理结果及可信执行环境签名发送至用户端。与现有技术相比，本发明具有更安全、更通用、更高效等优点。