请求处理方法、装置、电子设备及存储介质

AITNT
正文
推荐专利
请求处理方法、装置、电子设备及存储介质
申请号:CN202510052467
申请日期:2025-01-13
公开号:CN120011051A
公开日期:2025-05-16
类型:发明专利
摘要
本公开提供了一种请求处理方法、装置、电子设备及存储介质,涉及人工智能技术领域,尤其涉及大语言模型、生成式搜索、搜索引擎、知识问答、任务托管、文档智能编辑、智能助手、虚拟人等应用领域。具体实现方案为:获取针对目标时段的可用计算资源;利用可用计算资源,对高优队列中存储的实时请求进行处理;在可用计算资源存在剩余的情况下,利用剩余的可用计算资源,对低优队列中存储的异步请求进行处理。
技术关键词
资源 分词 变化趋势预测 队列 处理单元 令牌 电子设备 总量 大语言模型 人工智能技术 计算机程序产品 速率 处理器通信 指令 可读存储介质 存储器 动态 关系
系统为您推荐了相关专利信息
1
一种光功率门限阈值的生成方法、系统、设备及介质
光功率 生成方法 超参数 动态误差 动态门限
2
一种基于人工智能的学生学习行为预测方法
学生学习数据 智能推荐算法 教师 诊断算法 人工智能教育技术
3
基于多尺度图注意力的最大加权独立集求解方法及系统
多尺度 注意力神经网络 神经网络权值 节点特征 度函数
4
基于BIM技术的反应堆检修及退役数字化管理方法
平台系统 计划 数字化管理方法 项目 反应堆
5
一种四川地方鸡11K SNP液相芯片及其应用
地方鸡 种质资源鉴定 平武红鸡 旧院黑鸡 分子标记辅助
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号