基于思维树的大语言模型的推理方法及装置

AITNT
正文
推荐专利
基于思维树的大语言模型的推理方法及装置
申请号:CN202411068109
申请日期:2024-08-06
公开号:CN118709786B
公开日期:2025-02-07
类型:发明专利
摘要
本申请提供一种基于思维树的大语言模型的推理方法及装置,属于人工智能技术领域。该方法包括:将第一问题输入至大语言模型,得到第二问题;大语言模型根据第二问题构建第一思维树,第一思维树包括根节点和多个子节点;对于每个子节点,将子节点与根节点进行拼接,作为第三问题输入至大语言模型进行评分,得到评分结果;根据评分结果,确定保留子节点或者剪枝子节点;重复执行将第二问题输入至大语言模型的处理,直至达到预设停止条件,得到第二思维树;将第二思维树中评分最高的子节点对应的内容确定为最终推理结果。通过该方案,可以提高大语言模型在推理过程中的连贯性和准确性。
技术关键词
大语言模型 节点 推理方法 计算机执行指令 拼接模块 自然语言 生成框架 推理装置 人工智能技术 处理器通信 存储器 计算机设备 输入模块 收发器 策略
系统为您推荐了相关专利信息
1
基于铁电晶体管的全数字存内运算CMOS电路
铁电晶体管 铁电电容 电压 CMOS反相器 网络
2
一种基于知识图谱的疾病智能诊断与鉴别诊断系统
疾病智能诊断 鉴别诊断方法 鉴别诊断系统 知识图谱构建 数据输入模块
3
一种回形片上互连网络拓扑结构、构建方法及实现装置
网络拓扑结构 节点 基础结构 流量控制策略 流量控制器
4
一种作战体系网络整体作战效能评估方法
效能评估方法 链路 网络效能 搜索算法 体系仿真
5
风力发电机组的控制方法、装置、设备、介质及程序产品
风力发电机组 风速预测模型 训练样本数据 计算机执行指令 模式
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号