摘要
本申请公开了一种基于大语言模型的消息消费控制方法、设备及存储介质,涉及数据处理技术领域,包括:获取服务器的性能指标参数,根据性能指标参数调节消息消费并发数阈值;基于调节后的消息消费并发数阈值和性能指标参数,确定服务器是否具有剩余消息消费能力;若是,从消息队列头部提取消息数据,消息数据为通过封装大语言模型与交互对象之间的单步对话数据得到;控制大语言模型执行消息数据对应的文本生成任务,解决传统消息消费控制方法在动态负载下的稳定性不足的技术问题,提高消息消费控制的稳定性和可用性。
技术关键词
大语言模型
文本
队列
服务器
参数
数据处理技术
新消息
处理器
控制设备
可读存储介质
存储器
标识
对象
关系
语义
计算机
编码
动态
系统为您推荐了相关专利信息
轴向磁通电机
温度预测方法
热阻
强化学习算法
外壳单元
网络威胁情报信息
三元组
实体
序列
上下文感知信息