请求处理方法、装置、设备及介质

AITNT
正文
推荐专利
请求处理方法、装置、设备及介质
申请号:CN202411824646
申请日期:2024-12-11
公开号:CN119829976A
公开日期:2025-04-15
类型:发明专利
摘要
本说明书一个或多个实施例提供一种请求处理方法、装置、设备及介质。本说明书一个或多个实施例通过在接收到来自请求方的待处理请求的情况下,基于请求方的第一用户特征信息,与适用于使用近线缓存中的响应模板来处理请求的多个第二用户特征信息进行匹配,以在多个第二用户特征信息中存在与第一用户特征信息匹配的第二用户特征信息,则基于近线缓存中的响应模板对待处理请求进行处理,否则,调用在线生成模型来对待处理请求进行处理,以在保证请求可以得到实时响应的基础上,降低自然语言生成模型在线生成的调用量,使得基于在线生成模型的请求处理方式可以有效应对高并发请求的场景。
技术关键词
聚类 模板 数据 在线 大语言模型 处理器 计算机 自然语言 匹配模块 指令 动态 可读存储介质 文本 存储器 效应 场景 基础
系统为您推荐了相关专利信息
1
高频数据线缆的生产控制方法及系统
数据线缆 激光测厚仪 计算机可读指令 元学习算法 偏差
2
一种基于遗传算法的单目标点拍摄手眼标定方法
手眼标定方法 机器人基坐标系 遗传算法 点云 机器人视觉标定技术
3
异常用电行为的识别监测的方法、装置、设备及存储介质
非侵入式负荷监测 数据 深度学习算法 轨迹特征 瞬时电流特征
4
精密电子产品AR装配引导的跟踪定位方法
跟踪定位方法 精密电子产品 视角 三维模型 电子装备
5
基于边界网关协议的监测系统的测试方法及系统
边界网关协议报文 性能评估系统 边界网关协议邻居 监测系统 虚拟专用网络业务
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号