摘要
本申请涉及一种知识问答的流式返回方法、装置和计算机设备。所述方法包括:将从客户端接收到的用户输入文本,输入至大语言模型中,得到用于逐步返回客户端的增量回复内容;在得到每次所需的增量回复内容后,基于本次所需的增量回复内容,在预存知识库中进行检索,得到与本次所需的增量回复内容相匹配的目标文档信息;合并本次所需的增量回复内容和目标文档信息,得到针对用户输入文本本次返回的流式返回内容,并将本次返回的流式返回内容以流式返回方式发送至客户端。采用本方法能够提高知识问答的溯源实时性。
技术关键词
客户端
语义向量
返回方法
大语言模型
文本
匹配模块
计算机设备
计算机程序产品
处理器
标识
可读存储介质
存储器
系统为您推荐了相关专利信息
情感分类方法
情感分类模型
动态权重分配
注意力机制
多层次特征
资源配置信息
服务器分配方法
服务器系统
GPU服务器
账号
大语言模型
语句生成方法
生成自然语言
场景
数据