一种基于双向协同的大模型推理方法、系统、终端及介质

AITNT
正文
推荐专利
一种基于双向协同的大模型推理方法、系统、终端及介质
申请号:CN202510669767
申请日期:2025-05-23
公开号:CN120181247A
公开日期:2025-06-20
类型:发明专利
摘要
本发明涉及大模型领域,具体公开一种基于双向协同的大模型推理方法、系统、终端及介质,方法包括训练正向推理模型和反向验证模型;接收用户输入的推理任务,将推理任务输入正向推理模型获得第一推理路径和第一初步结论,同时将推理任务输入反向验证模型获得第二推理路径和第二初步结论;判断第一初步结论和第二初步结论是否一致;若一致,将任一初步结论作为最终推理结论;若不一致,根据第一推理路径和第二推理路径分别评估两个模型的可靠性,根据可靠性评估结果输出最终推理结论。本发明通过正向推理模型和反向验证模型输出两个初步结论,对两者相互校验输出最终的推理结论,可以结合两个推理模式的优势,提升推理的准确性和可靠性。
技术关键词
推理方法 双向注意力机制 模型训练模块 推理系统 可读存储介质 校验算法 掩码矩阵 程序 终端 覆盖率 变换器 逻辑 解码器 因子 处理器
系统为您推荐了相关专利信息
1
基于耦合物理神经网络的优化问题高效求解方法及装置
深度学习网络 神经网络训练方法 物理 双网络 求解装置
2
数据处理方法、装置、电子设备及存储介质
列车 身份 编码 数据处理方法 加密算法
3
考虑绿电中长期合同约束的碳减排因子计算方法及系统
优化调度模型 发电机组 火电 计算方法 因子
4
一种重定位方法、装置、机器人及存储介质
关键帧 重定位方法 全局地图 点云 定位单元
5
基于运价计算栏的票联运价金额关联方法及装置
动态字典 民航系统 机器学习算法 卷积神经网络模型 计算机程序产品
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号