摘要
本说明书一个或多个实施例提供一种请求处理方法、装置、设备及介质。本说明书一个或多个实施例通过在接收到来自请求方的待处理请求的情况下,基于请求方的第一用户特征信息,与适用于使用近线缓存中的响应模板来处理请求的多个第二用户特征信息进行匹配,以在多个第二用户特征信息中存在与第一用户特征信息匹配的第二用户特征信息,则基于近线缓存中的响应模板对待处理请求进行处理,否则,调用在线生成模型来对待处理请求进行处理,以在保证请求可以得到实时响应的基础上,降低自然语言生成模型在线生成的调用量,使得基于在线生成模型的请求处理方式可以有效应对高并发请求的场景。
技术关键词
聚类
模板
数据
在线
大语言模型
处理器
计算机
自然语言
匹配模块
指令
动态
可读存储介质
文本
存储器
效应
场景
基础
系统为您推荐了相关专利信息
数据线缆
激光测厚仪
计算机可读指令
元学习算法
偏差
手眼标定方法
机器人基坐标系
遗传算法
点云
机器人视觉标定技术
非侵入式负荷监测
数据
深度学习算法
轨迹特征
瞬时电流特征
跟踪定位方法
精密电子产品
视角
三维模型
电子装备
边界网关协议报文
性能评估系统
边界网关协议邻居
监测系统
虚拟专用网络业务