摘要
本发明提供了一种基于熵和评分的模型输出优化控制方法及装置,属于模型输出控制技术领域。方法先根据应用场景选择对应的prompt提示词,并将prompt提示词输入大语言模型,通过预设模型参数控制大语言模型生成N个结果文本;利用评分模型分别对N个结果文本进行评分,得到N个结果文本评分;从N个结果文本评分选出评分最高的结果文本,并计算生成评分最高的结果文本的熵值;基于评分最高的结果文本的熵值对大语言模型输出的超参数进行调整,以控制大语言模型输出结果的不确定性。本发明在不改变模型本身的结构和参数的情况下,动态调整模型的超参数,实现对模型输出的优化和控制,降低了模型输出的不确定性。
技术关键词
大语言模型
文本
优化控制方法
参数
输出控制技术
优化控制装置
策略
场景
数据
错误率
模块
动态
系统为您推荐了相关专利信息
车辆避障方法
车辆车身
圆心
智能驾驶系统
无碰撞
音视频
链路丢包率
日志数据库
传输路径
LSTM模型
电力通信工程
故障预诊断方法
故障诊断信息
作业参数
故障预诊断系统