摘要
本说明书提供一种数据存储方法、装置、设备及可读存储介质,应用于大语言模型计算设备,所述大语言模型计算设备设有CXL内存设备,所述方法包括:使用预设算法将第一KV数据压缩为第二KV数据,存储所述第二KV数据所需的存储资源等于或低于CXL内存池被配置用于存储所述第二KV数据的存储资源;所述第二KV数据包括第一KV数据的关键信息;第二KV数据存储至所述CXL内存池。通过本说明书的技术方案,可以降低大语言模型应用中的数据传输负载,缓解了数据存储压力。
技术关键词
数据压缩方法
大语言模型
低阈值
硬盘
数据存储方法
内存设备
数据访问
频率
可读存储介质
周期性
数据存储装置
处理器
算法
指令
机制
电子设备