摘要
本发明公开了一种远程调用加速设备的方法、设备、存储介质及程序产品,涉及人工智能技术领域,该方法在服务端设置加速设备与设备代码,客户端向服务端发送深度学习框架版本信息使服务端据此注册并加载设备代码,客户端不需要将设备代码与设备代码的数据大小信息发送给服务端,从而客户端不需要解析设备代码的文件头来获取设备代码的数据大小,可以避免未准确获取到设备代码的数据大小而导致的设备代码无法正确加载至加速设备的问题。设备代码直接设置在服务端,在加速设备复用场景下,共享同一张加速设备的人工智能任务不需要独立执行一次注册加载设备代码的操作,从而避免加速设备上留存大量重复的设备代码副本而导致显存资源的浪费。
技术关键词
加速设备
深度学习框架
服务端
客户端
加载设备
关系
可读存储介质
存储计算机程序
解析设备
人工智能技术
计算机程序产品
启动设备
标志
处理器
电子设备
副本
数据
存储器