摘要
本说明书实施例公开了一种数据推理方法、装置、电子设备、存储介质。包括:响应于获取到的推理请求,确定推理请求对应的数据来源、场景信息和推理结果提示信息;根据场景信息确定目标推理链路,推理链路为由至少一个大语言模型组成的用于数据推理的逻辑链路,推理链路中上一大语言模型的输出数据为下一大语言模型的输入数据;从数据来源处获取待推理数据,并根据场景信息、推理结果提示信息和待推理数据生成匹配于目标推理链路中第一个大语言模型的模型输入数据;推理结果提示信息用于指示目标推理链路所输出的推理结果;将模型输入数据输入至目标推理链路中进行推理,并获取目标推理链路输出的推理结果。
技术关键词
数据推理方法
大语言模型
链路
推理装置
评估准则
推理系统
可执行程序代码
场景
电子设备
存储器
校验规则
处理器
逻辑
离线
日志
可读存储介质
覆盖率
消息
软件