摘要
本申请公开了一种信息熵引导的投机推理方法及相关装置,涉及投机推理技术领域,包括:当滑动窗口在待推理文本上滑动时,确定最近一次滑动产生的更新令牌的信息熵,其中,待推理文本中包括已验证令牌序列和草稿模型生成的待验证令牌序列,根据更新令牌的信息熵,确定主模型是否对待验证令牌序列进行验证,若否,则使草稿模型继续生成待验证令牌,将新生成的待验证令牌更新到待验证令牌序列中,再使滑动窗口继续滑动,若是,则利用主模型对待推理文本中的待验证令牌序列进行验证和纠错,之后返回使草稿模型继续生成待验证令牌。本申请能够根据待推理文本的难度变化实时调整验证策略,提高了推理效率和资源利用率。
技术关键词
令牌
信息熵
推理方法
序列
滑动窗口
文本
计算机可读指令
电子设备
推理技术
纠错
计算机存储介质
存储计算机程序
计算机程序产品
处理器
存储器
策略
资源