摘要
本发明公开了一种基于隐私内容遮蔽和分割推理的检索增强生成方法及系统,所述系统通过将大语言模型分割为边缘端部署的嵌入层与输出层、云端部署的中间层,确保用户输入的自然语言问题及推理结果的明文仅在本地处理,阻止云端明文泄漏风险;同时构建三层隐私增强知识库,在离线阶段通过隐私遮蔽模块对原始知识进行动态遮蔽,并生成隐私内容与遮蔽内容的隐私映射表。系统通过分割推理杜绝了所有来自云端和通信过程中针对明文的攻击的威胁,并利用隐私增强知识库将系统在遭受针对密文张量的攻击时的隐私泄漏风险大大降低。该系统兼顾了检索增强生成系统的隐私性、低时延与高可用性。
技术关键词
大语言模型
命名实体识别模型
子系统
自然语言
遮蔽模块
生成方法
云端
中间层
明文
生成系统
标识符
鉴权
生成知识
离线
语义
阶段
格式
低时延
模板
系统为您推荐了相关专利信息
智能推理
解析单元
命名实体识别
分析模块
关联规则挖掘算法
协调优化方法
子系统
负载需求功率
蓄电池
燃料电池
机电设备
机器学习模型
联动规则
控制单元
混合组网方式
信息智能管理系统
可视化模块
人工智能助手
自然语言
机器学习模型