提高自然语言模型访问速度的缓存方法、装置、存储介质及电子装置

AITNT
正文
推荐专利
提高自然语言模型访问速度的缓存方法、装置、存储介质及电子装置
申请号:CN202411447023
申请日期:2024-10-16
公开号:CN119202136A
公开日期:2024-12-27
类型:发明专利
摘要
本申请提供一种提高自然语言模型访问速度的缓存方法、装置、存储介质及电子装置,涉及智慧家庭技术领域,该方法包括:接收用户请求服务发送的待处理访问请求;待处理请求为用户针对自然语言模型的外部接口的访问请求;将待处理访问请求所包含的请求文本数据转换为第一特征向量,并将第一特征向量与向量数据库中存储的待匹配特征向量进行匹配,生成匹配结果;若匹配结果指示向量数据库存在与第一特征向量相匹配的第二特征向量,则将向用户请求服务发送第一应答响应。本申请提供的提高自然语言模型访问速度的缓存方法、装置、存储介质及电子装置,通过缓存自然语言模型请求结果的方式极大地提高了自然语言模型接口的访问效率。
技术关键词
自然语言模型 缓存方法 电子装置 智慧家庭技术 文本 接口 缓存装置 处理器 数据 匹配模块 可读存储介质 存储器 计算机 样本 程序
系统为您推荐了相关专利信息
1
一种基于跨模态自适应交互的少样本工业异常检测方法
异常检测方法 视觉特征 语义 注意力 跨模态
2
一种联合大模型和知识图谱的语义感知推荐方法
语义特征 语义知识图谱 实体 意图 推荐方法
3
一种地质领域知识图谱的构建方法、装置及设备
三元组 实体 文本 支持向量机模型 数据
4
一种软件运行检测方法、装置、设备、介质和产品
软件运行检测方法 预训练模型 训练文本数据 计算机程序产品 可读存储介质
5
基于深度主动学习策略的中文古籍实体抽取方法
实体抽取方法 主动学习策略 查询策略 混合损失函数 标记
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号