摘要
本申请提供了一种大模型服务系统、方法、计算机设备及可读存储介质,其中,提示词工程模块配置提示词模板;根据用户选择的提示词生成目标文本;检索增强生成模块接收用户上传的基础文本转换为词向量存储至数据库,根据用户输入的提问信息从数据库中检索出提示词生成目标文本;插件开发模块接收配置文件进行解析得到API接口信息,调用扩展数据检索出提示词,基于提示词生成目标文本;智能体模块根据用户对系统执行链的自定义操作对提示词工程模块、检索增强生成模块和插件开发模块的执行组合和顺序进行定义。采用上述方法,以提高大模型服务的灵活性、模型检索的效率、模型服务的安全性,进一步满足多样化的业务场景需求,提高用户体验。
技术关键词
模型服务方法
文本
服务系统
计算机设备
插件
机器可读指令
模型训练模块
接口
基础
模板
处理器
可读存储介质
存储器
定义
数据
场景
系统为您推荐了相关专利信息
业务数据处理方法
光学字符识别技术
文本
自然语言
业务数据处理装置
SQL语法
语句
关系型数据
设计系统
电数字数据处理技术
城市电网规划方法
风力涡轮机
光伏设备
电池储能系统
负荷
文本生成图像方法
概念
随机噪声
图片
计算机程序指令
双支持向量机
情感分类方法
预训练语言模型
源标签
文本