一种数据处理方法、设备及存储介质

本申请实施例提供了一种数据处理方法、设备及存储介质，涉及大模型技术领域，该方法包括：获取待采样的第一候选词矩阵以及分别针对各个待推理问题设置的采样参数；获取待采样的第一候选词矩阵以及分别针对各个待推理问题设置的采样参数，其中，所述第一候选词矩阵的维度为N×M，所述采样参数至少包括：对输出候选词进行Top‑K采样时的参数K；在所述第一候选词矩阵中，根据所述输出概率，分别对每个待推理问题的输出候选词进行降序排列，并从每个待推理问题的输出候选词排序结果中选择前J个输出候选词，生成第二候选词矩阵，其中，所述J是基于所述待推理问题对应的参数K确定的，且M与J的差值大于预设阈值，J为正整数。