一种基于模型的推理方法、电子设备和智能体

本申请公开一种基于模型的推理方法、电子设备和智能体，智能体能够嵌入浏览器等应用程序作为应用程序的一部分，或者嵌入操作系统作为操作系统的一部分，从而为应用程序或操作系统提供智能化的功能，具体的，通过智能体可以实现：基于第一输入信息对应的输入编码序列以及大语言模型，经过多轮推理生成由多个输出编码构成的输出信息，其中每一轮推理生成一个输出编码；每一轮推理过程中，获得第N轮的候选编码的第一概率值后，通过查询预存意图表第N列包括的多个不同的预存编码，将目标编码的第一概率值调整为第二概率值，目标编码为候选编码中与第N列的预存编码一致的编码；基于概率值确定一个候选编码作为第N轮推理生成的一个输出编码。