摘要
本发明涉及大模型领域,具体公开一种基于双向协同的大模型推理方法、系统、终端及介质,方法包括训练正向推理模型和反向验证模型;接收用户输入的推理任务,将推理任务输入正向推理模型获得第一推理路径和第一初步结论,同时将推理任务输入反向验证模型获得第二推理路径和第二初步结论;判断第一初步结论和第二初步结论是否一致;若一致,将任一初步结论作为最终推理结论;若不一致,根据第一推理路径和第二推理路径分别评估两个模型的可靠性,根据可靠性评估结果输出最终推理结论。本发明通过正向推理模型和反向验证模型输出两个初步结论,对两者相互校验输出最终的推理结论,可以结合两个推理模式的优势,提升推理的准确性和可靠性。
技术关键词
推理方法
双向注意力机制
模型训练模块
推理系统
可读存储介质
校验算法
掩码矩阵
程序
终端
覆盖率
变换器
逻辑
解码器
因子
处理器
系统为您推荐了相关专利信息
深度学习网络
神经网络训练方法
物理
双网络
求解装置
动态字典
民航系统
机器学习算法
卷积神经网络模型
计算机程序产品