大模型运行方法、装置、设备及存储介质

本申请涉及大语言模型技术领域，公开了一种大模型运行方法、装置、设备及存储介质，该方法包括：响应于大模型触发指令，从所述大模型触发指令中提取待调用IP和待调用端口；调用所述待调用IP和所述待调用端口，以运行模拟运行环境进程；通过所述模拟运行环境进程加载预设大模型文件，以运行所述预设大模型文件对应的大模型服务。本申请能够有效降低对网络连接的依赖，能够快速启动大模型服务，有效提升了大模型处理效率，同时，由于用户数据无需上传云端，能够防止用户数据泄露，增强了数据安全性。