摘要
本公开提供了一种请求处理方法、装置、电子设备及存储介质,涉及人工智能技术领域,尤其涉及大语言模型、生成式搜索、搜索引擎、知识问答、任务托管、文档智能编辑、智能助手、虚拟人等应用领域。具体实现方案为:获取针对目标时段的可用计算资源;利用可用计算资源,对高优队列中存储的实时请求进行处理;在可用计算资源存在剩余的情况下,利用剩余的可用计算资源,对低优队列中存储的异步请求进行处理。
技术关键词
资源
分词
变化趋势预测
队列
处理单元
令牌
电子设备
总量
大语言模型
人工智能技术
计算机程序产品
速率
处理器通信
指令
可读存储介质
存储器
动态
关系
系统为您推荐了相关专利信息
学生学习数据
智能推荐算法
教师
诊断算法
人工智能教育技术
多尺度
注意力神经网络
神经网络权值
节点特征
度函数
地方鸡
种质资源鉴定
平武红鸡
旧院黑鸡
分子标记辅助