数据量化方法、装置、计算机设备、存储介质和程序产品

本申请涉及一种数据量化方法、装置、计算机设备、存储介质和程序产品。所述方法包括：在利用目标模型对输入数据进行推理的过程中，获取所述输入数据对应的第一缓存键数据；利用预设的第一校准策略对所述第一缓存键数据进行校准，得到第二缓存键数据，所述第一校准策略用于减小所述第一缓存键数据的数据离散程度；对所述第二缓存键数据进行量化处理，得到目标量化数据，所述目标量化数据用于更新所述第一缓存键数据。采用本方法能够提高大语言模型的推理性能的优化效果。