数据处理方法、系统、电子设备、存储介质和计算机程序产品

本申请公开了一种数据处理方法、系统、电子设备、存储介质和计算机程序产品，涉及大模型技术、键值缓存技术领域。其中，该方法包括：获取视觉语言模型对应的多个视觉标记、多个文本标记以及初始键值数据；利用初始键值数据，确定多个文本标记中的关键文本标记；利用初始键值数据和关键文本标记在多个文本标记中的分布位置，对多个视觉标记进行重要度评估，得到评估结果，评估结果用于表征多个视觉标记与关键文本标记之间跨模态的注意力权重分布；根据评估结果，对初始键值数据进行缓存压缩处理，得到目标键值数据。本申请解决了相关技术中视觉语言模型的键值数据缓存开销大、影响模型推理效率的技术问题。