摘要
本申请实施例提供了一种词元生成方法及装置,其中词元生成方法包括:获取目标模型当前推理阶段的输入信息;输入信息包括第一词元和第二词元;其中,第一词元包括上一推理阶段输出的目标词元;第二词元包括上一推理阶段输出的猜测词元;基于目标模型推理生成第一词元和第二词元的候选权重,候选权重表示候选词元成为目标词元的可能性;基于第一解码算法解码第一词元的候选权重生成第一目标词元,以及基于第二解码算法解码第二词元的候选权重生成第二目标词元;其中,第一解码算法与第二解码算法不同。
技术关键词
解码算法
阶段
生成方法
生成装置
模块
数据