基于容器部署与管理系统的模型部署方法和装置

本申请涉及一种基于容器部署与管理系统的模型部署方法和装置。该方法包括：在获取到第一客户端的部署请求的情况下，在容器化部署平台上部署目标资源管理组件，其中，目标资源管理组件中部署有第一前台应用、向量数据库与后台服务，第一前台应用用于接收访问用户的交互内容，向量数据库用于存储第一客户端上传的文档的向量，后台服务用于通过向量数据库中的向量与交互内容，在第一前台应用中显示交互内容的回复内容；将第一前台应用的访问链接返回给第一客户端。本申请解决了用户部署大语言模型效率低的技术问题。