摘要
本发明公开了一种针对GPT的安全多方隐私保护推理方法、装置及系统,其中的方法探索了加性秘密分享与乘性秘密分享之间的转换协议,利用该转换协议设计一系列子协议用于实现安全多方非线性激活函数的计算,并且设计了GPT模型中针对Transformer不同layer的安全多方计算协议利用Beaver三元组实现加性秘密分享的乘法协议,从而实现了一个完整的多方隐私保护Transformer推理框架;基于上述的协议多个服务器与用户采用GPT进行安全多方隐私保护计算,得到GPT推理结果。本发明在满足隐私性的前提下,与现有的相似方案相比提升了效率,降低了通信开销,更适合于通信延迟较低的局域网络中,适应大模型的安全多方云推理应用场景。
技术关键词
协议
推理方法
前馈神经网络
矩阵
注意力
三元组
Softmax函数
模型预训练
推理装置
服务器
变量
推理系统
参数
处理器
计算机设备
平方根
元素
存储器
非线性
系统为您推荐了相关专利信息
干细胞培养设备
数据处理系统
矩阵
控制策略
控制执行模块
数据迁移
内存管理单元
缓存命中率
硬件性能计数器
内存访问模式
医疗数据安全
加解密模块
深度学习模型
加密卡
TensorFlow框架