一种数据推理方法、装置、电子设备、存储介质

AITNT
正文
推荐专利
一种数据推理方法、装置、电子设备、存储介质
申请号:CN202411470211
申请日期:2024-10-21
公开号:CN119443265A
公开日期:2025-02-14
类型:发明专利
摘要
本说明书实施例公开了一种数据推理方法、装置、电子设备、存储介质。包括:响应于获取到的推理请求,确定推理请求对应的数据来源、场景信息和推理结果提示信息;根据场景信息确定目标推理链路,推理链路为由至少一个大语言模型组成的用于数据推理的逻辑链路,推理链路中上一大语言模型的输出数据为下一大语言模型的输入数据;从数据来源处获取待推理数据,并根据场景信息、推理结果提示信息和待推理数据生成匹配于目标推理链路中第一个大语言模型的模型输入数据;推理结果提示信息用于指示目标推理链路所输出的推理结果;将模型输入数据输入至目标推理链路中进行推理,并获取目标推理链路输出的推理结果。
技术关键词
数据推理方法 大语言模型 链路 推理装置 评估准则 推理系统 可执行程序代码 场景 电子设备 存储器 校验规则 处理器 逻辑 离线 日志 可读存储介质 覆盖率 消息 软件
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号