摘要
描述了在执行期间对模型的机密性和完整性的保持。一种装置的示例包括:存储器,用于存储用于针对应用的一个或多个人工智能(AI)模型的处理的数据;和处理资源,包括图形处理单元(GPU);受信任执行环境(TEE);以及用于在执行期间保护AI模型的机密性和完整性的电路。该电路系统包括:用于从模型服务器获得AI模型的电路系统,该AI模型是经加密的;用于获得针对AI模型的模型许可和模型加密密钥的电路系统;用于利用模型加密密钥对AI模型进行解密,并且利用第二加密密钥对AI模型进行重新加密的电路系统;以及用于执行针对AI模型的推断过程以生成针对应用的推断输出数据的电路系统。
技术关键词
电路系统
非暂态计算机可读存储介质
密钥
受信任执行环境
图形处理器
许可
计算机程序指令
人工智能AI模型
私钥
图形处理单元
解密
人工智能模型
服务器
加密数据
资产
包裹
明文
系统为您推荐了相关专利信息
内存访问指令
硬件资源调度方法
内核态
图形处理器
数据项
加解密方法
解密数据流
数据压缩
压缩算法
浮点型数据
数据处理方式
算法
数据处理方法
密钥
区块链数据处理