摘要
本公开的实施例提供了用于模型可信推理的方法、装置、设备和存储介质。该方法包括:在用于模型推理的计算集群的第一可信执行环境中对模型输入执行机器学习模型的第一阶段处理,以生成与模型输入对应的中间处理结果;在第一可信执行环境中利用第一密钥对中间处理结果加密,以获得加密数据;将加密数据从第一可信执行环境提供给多个可信执行环境中的第二可信执行环境;在第二可信执行环境中利用第二密钥,对加密数据解密,以获得中间处理结果;以及在第二可信执行环境中对中间处理结果执行机器学习模型的第二阶段处理,以生成与模型输入对应的模型输出。以此方式,能够确保机器学习模型的不同推理阶段之间通信过程安全且可靠。
技术关键词
可信执行环境
加密数据
执行机器学习模型
可信密钥
计算机可执行指令
集群
执行身份验证
网络节点
处理器
标识
计算机程序产品
解密模块
注意力机制
加密模块
电子设备