基于大语言模型的计算设备、方法、计算机可读存储介质和计算机程序产品

本发明涉及基于计算模型的计算机系统，公开了基于大语言模型的计算设备、方法、计算机可读存储介质和计算机程序产品。一种基于大语言模型的计算设备包括计算资源和大语言模型，大语言模型包括：解码模块，用于利用原始对数分数分布得到后续词元集合；检索模块，用于对词元序列进行检索，得到草稿词元集合；以及验证模块，用于将参考词元集合与草稿词元集合进行比较，得到输出词元集合。根据本发明的计算设备克服了当前基于检索的推测解码在匹配范式方面的局限性，使得能够高效且准确地找到最匹配、最有用的草稿内容。