一种分布式缓存方法、系统及用于大模型推理服务的加速方法

本发明公开了一种分布式缓存方法、系统及用于大模型推理服务的加速方法，系统包括机密虚拟机集群，零信任分布式缓存系统，FUSE客户端；零信任分布式缓存系统包括数据策略服务、数据引擎插件、分布式文件系统、可信接入服务；FUSE客户端部署于机密容器端，基于远程证明和相应机密容器身份合法性确认证明与可信接入服务建立安全连接，以向相应机密容器提供明文数据访问服务。本方案为机密计算容器集群提供了分布式缓存实现方案，在利用大规模的机密容器集群保障数据安全的同时避免了对同一份数据反复向外部存储系统读取与加解密而造成的性能损耗问题，实现模型训练与推理等场景中存储访问效率的提升。