摘要
根据本公开的实施例,提供了针对大模型语义缓存的安全防护方法、装置、设备和存储介质。该方法包括:获取与大模型相关联的第一请求;响应于与大模型相关联的语义缓存中存在与第一请求匹配的第二请求,从语义缓存中获取第二请求对应的第一响应内容;基于第一请求与第一响应内容,确定第一响应内容是否满足预设的输出约束;响应于第一响应内容满足预设的输出约束,输出第一响应内容;或者响应于第一响应内容不满足预设的输出约束,输出由大模型基于第一请求所生成的第二响应内容。基于这样的方式,本公开的实施例可以通过验证第一响应内容是否满足预设的输出约束,来有效识别和阻止恶意注入的响应内容被输出,提高了信息处理的安全性。
技术关键词
语义
防护方法
计算机可执行指令
处理单元
输出模块
计算机程序产品
电子设备
信息处理
可读存储介质
存储器
处理器
风险
系统为您推荐了相关专利信息
光伏设备
多智能体深度强化学习
控制策略模型
光伏逆变器
电压越限控制
遥感影像变化检测
语义特征
超轻量
注意力
编码器
可视化展示方法
图谱
可视化模块
语义搜索技术
可视化展示技术
融合点云数据
定位系统
三维扫描仪
焊点
RGB模组