摘要
本发明公开了一种大语言模型的参数动态设置方法及系统,包括:将业务需求划分为多个具体的业务类别,基于业务类别为每类业务分配对应的业务插件,并通过URL或参数对业务插件进行区分;设置每一类业务插件对应的模型参数和prompt指令模板,并确定每个模型参数的参数范围;获取用户提交的业务请求,确定业务请求的类别,并基于所述业务请求的类别进行模型参数和prompt指令的配置;基于配置好的模型参数和prompt指令形成模型请求参数,以基于所述模型请求参数进行大语言模型的调用。本发明极大地提升了业务处理的灵活性和响应速度,更关键的是,它能够在不中断现有业务调用的前提下完成参数优化,确保了业务连续性和用户体验的平滑过渡。
技术关键词
大语言模型
参数
插件
专用业务
业务分配
指令
模板
指标
分配单元
动态
连续性
基础
系统为您推荐了相关专利信息
精细控压钻井
智能控制系统
钻井设备
LSTM神经网络模型
控制模块
数据生成方法
预训练语言模型
优化训练数据
样本
数据生成系统
风功率预测系统
比值误差
序列
储能
数据获取模块
岩心样品
地质建模方法
连续小波变换
力学
泊松比