一种基于句子语义感知的数据管理方法及相关设备

本发明提供一种基于句子语义感知的数据管理方法及相关设备，涉及涉及缓存管理技术领域，包括对长文本进行分割，得多个句子以及其的排序顺序；基于句子以及其的排序顺序计算句子所对应令牌的重要性得分；根据句子所对应令牌的重要性得分以及句子对应的动态预算，筛选出句子中的关键令牌，并将其存储于对应句子的保留集合中，进而计算每个令牌的局部加权注意力得分；基于句子内每个令牌的局部加权注意力得分和预设注意力头的融合权重进行加权融合，得到句子级语义向量；基于句子的句子级语义向量和对应的保留集合构建语义索引缓存与键值对KV内容缓存。从而结合上下文依赖动态加载的KV缓存管理方法，以实现更高效、更智能的推理过程。