摘要
本申请公开了一种数据处理方法、相关设备,其中所述方法包括:获得第一数据,所述第一数据为大语言模型的输入数据;从多个第一可选模型中,确定出与第一数据的属性相匹配的第一目标模型,其中每个第一可选模型基于不同的预填充长度进行程序编译而得到,且各第一可选模型之间具有相同的模型参数;利用第一目标模型对所述第一数据进行大语言模型的预填充处理,得到对第一数据的预填充结果;基于预填充结果中的键值缓存结果以及首字输出词元,利用第二目标模型对所述第一数据进行大语言模型的解码处理,以得到用于回复第一数据的第二数据。
技术关键词
大语言模型
数据处理方法
神经网络模型
键值
参数
解码
数据处理设备
处理单元
电子设备
处理器通信
程序
存储器
指令
系统为您推荐了相关专利信息
选址定容方法
接入点
参数
直流配电网
交直流混合配电
工况参数
作业机械
相关系数算法
机器可读存储介质
指令
网络模块
集成专家
重建系统
重建算法
重建PET图像
数据处理方法
企业
资源优化配置
实时系统
资源需求数据