一种大模型服务的流程管理方法、系统、设备及介质

本发明提供了一种大模型服务的流程管理方法、系统、设备及介质，属于人工智能技术领域。方法包括：采用前后端分离架构和微服务架构，并结合容器化技术进行系统搭建；基于搭建的系统，设计多种类型的功能节点，用于构建大模型服务流程；基于设计的功能节点和搭建的系统，在图形化界面中通过拖拽功能节点进行功能节点的选择、关联和属性设置，以构建大模型服务流程；对构建的大模型服务流程进行文件管理和版本管理；对构建的大模型服务流程进行流程测试和优化；采用分布式缓存与数据库技术存储大模型服务流程的过程数据，对所述过程数据进行加密传输。本发明能够根据需要自定义编排大模型服务流程，从而实现对大模型服务的高效管理和灵活应用。