基于LLM模型的推理计算方法及装置

本发明公开了一种基于LLM模型的推理计算方法及装置，涉及人工智能技术领域，该方法包括：从多个数据提供方获取样本数据；样本数据为包含隐私信息的数据；利用样本数据对预先搭建的待训练LLM推理模型进行训练，得到训练好的LLM推理模型；待训练LLM推理模型包括稀疏编码框架和transformer‑decoder框架；利用训练好的LLM推理模型对包含隐私信息的待推理数据的推理计算。本发明在LLM模型训练和使用的过程中避免隐私数据的泄露，确保用户数据的安全。