摘要
本公开提供了一种基于大模型的请求处理方法、装置、电子设备及存储介质,涉及机器学习与自然语言处理等人工智能技术领域。具体实现方案为:获取用户的处理请求;基于所述用户的处理请求,采用预先生成的深度草稿模型和预先训练的目标模型,分别进行循环解码和有效性验证;所述深度草稿模型包括深度特征表达层,所述深度特征表达层采用预先构建的深度特征表达字典对所述用户的处理请求进行深度特征表达;所述深度草稿模型和所述目标模型基于大模型来实现;采用通过有效性验证的解码结果进行响应。本公开的技术,能够有效地加快推理流程,缩短推理耗时,提高推理效率,进而可以有效地提高请求的响应效率。
技术关键词
多层感知器
有效性
解码单元
字典
采集单元
电子设备
人工智能技术
计算机程序产品
处理器通信
模块
生成装置
生成方法
自然语言
指令
可读存储介质
存储器
参数
系统为您推荐了相关专利信息
误差向量
雅可比矩阵
参数优化方法
标定相机
分阶段