一种大语言模型的参数动态设置方法及系统

AITNT
正文
推荐专利
一种大语言模型的参数动态设置方法及系统
申请号:CN202411936090
申请日期:2024-12-26
公开号:CN120029681A
公开日期:2025-05-23
类型:发明专利
摘要
本发明公开了一种大语言模型的参数动态设置方法及系统,包括:将业务需求划分为多个具体的业务类别,基于业务类别为每类业务分配对应的业务插件,并通过URL或参数对业务插件进行区分;设置每一类业务插件对应的模型参数和prompt指令模板,并确定每个模型参数的参数范围;获取用户提交的业务请求,确定业务请求的类别,并基于所述业务请求的类别进行模型参数和prompt指令的配置;基于配置好的模型参数和prompt指令形成模型请求参数,以基于所述模型请求参数进行大语言模型的调用。本发明极大地提升了业务处理的灵活性和响应速度,更关键的是,它能够在不中断现有业务调用的前提下完成参数优化,确保了业务连续性和用户体验的平滑过渡。
技术关键词
大语言模型 参数 插件 专用业务 业务分配 指令 模板 指标 分配单元 动态 连续性 基础
系统为您推荐了相关专利信息
1
基于AI技术的海洋精细控压钻井智能控制系统
精细控压钻井 智能控制系统 钻井设备 LSTM神经网络模型 控制模块
2
一种基于人类反馈强化学习的分层次教育出题方法及系统
出题方法 人类 计算机程序指令 出题系统 数据
3
一种迭代式监督微调数据生成方法及系统
数据生成方法 预训练语言模型 优化训练数据 样本 数据生成系统
4
一种储能辅助黑启动风功率预测系统及方法
风功率预测系统 比值误差 序列 储能 数据获取模块
5
一种基于划痕测试的精细压裂地质建模方法
岩心样品 地质建模方法 连续小波变换 力学 泊松比
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号