基于机密计算技术的大模型安全推理方法及系统

本发明公开一种基于机密计算技术的大模型安全推理方法及系统，属于网络安全技术领域。所述方法包括：大模型应用虚拟机与大模型服务虚拟机分别在安全管理中心中进行注册；大模型应用虚拟机接收用户Prompt；大模型应用虚拟机与大模型服务虚拟机建立会话；大模型服务虚拟机执行推理并回传结果。本发明可以满足保障大模型推理的安全需求，极大地提高了云端使用大模型的安全性。