请求处理方法、电子设备及可读存储介质

AITNT
正文
推荐专利
请求处理方法、电子设备及可读存储介质
申请号:CN202510760396
申请日期:2025-06-09
公开号:CN120745795A
公开日期:2025-10-03
类型:发明专利
摘要
本申请公开一种请求处理方法、电子设备及计算机可读存储介质,其中,方法包括:通过将目标推理请求对应的第一特征列表与每个候选实例的键值缓存区对应的第二特征列表进行前缀匹配,确定所述第一特征列表与每个所述第二特征列表的匹配长度,其中,所述第一特征列表包括所述目标推理请求对应的各第一语义块的特征,所述第二特征列表包括所述候选实例对历史推理请求进行推理得到的各第二语义块的特征;基于每个所述匹配长度和每个所述候选实例的计算能力,从多个所述候选实例中确定目标实例;调度所述目标实例处理所述目标推理请求。
技术关键词
列表 语义 映射关系表 键值 计算机程序产品 可读存储介质 指令 电子设备 处理器 存储器 分词 分块
系统为您推荐了相关专利信息
1
一种通道绑定方法、装置、设备、介质及程序产品
先进先出队列 通道 物理编码子层 数据传输协议 绑定方法
2
一种基于模型生成的代码部署方法及系统
代码部署方法 算法模型 通信接口 中间件 主题
3
一种基于AI大模型的新媒体影像处理方法及系统
影像 视觉特征 策略 嵌入特征 自然语言解析
4
基于动态弱纹理信息自适应放大实现微表情识别的方法、装置、处理器及其可读存储介质
微表情识别 人脸微表情 计算机可执行指令 纹理 特征提取网络
5
一种无人机目标跟踪方法、系统、设备及存储介质
模板特征 语义特征 跟踪方法 注意力 无人机
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号