摘要
本申请提供一种基于思维树的大语言模型的推理方法及装置,属于人工智能技术领域。该方法包括:将第一问题输入至大语言模型,得到第二问题;大语言模型根据第二问题构建第一思维树,第一思维树包括根节点和多个子节点;对于每个子节点,将子节点与根节点进行拼接,作为第三问题输入至大语言模型进行评分,得到评分结果;根据评分结果,确定保留子节点或者剪枝子节点;重复执行将第二问题输入至大语言模型的处理,直至达到预设停止条件,得到第二思维树;将第二思维树中评分最高的子节点对应的内容确定为最终推理结果。通过该方案,可以提高大语言模型在推理过程中的连贯性和准确性。
技术关键词
大语言模型
节点
推理方法
计算机执行指令
拼接模块
自然语言
生成框架
推理装置
人工智能技术
处理器通信
存储器
计算机设备
输入模块
收发器
策略
系统为您推荐了相关专利信息
疾病智能诊断
鉴别诊断方法
鉴别诊断系统
知识图谱构建
数据输入模块
网络拓扑结构
节点
基础结构
流量控制策略
流量控制器
风力发电机组
风速预测模型
训练样本数据
计算机执行指令
模式