摘要
本申请公开了一种数据处理方法、系统、计算机装置及计算机可读存储介质。其中,一种数据处理方法,包括:通过处理系统向可编程逻辑发送第一输入数据,其中第一输入数据为浮点数;通过可编程逻辑利用子图的子图算子中预设的量化参数将第一输入数据转换为第二输入数据,其中第二输入数据为定点数;通过可编程逻辑利用子图算子对第二输入数据进行与CNN相关的运算操作,生成第一输出数据,其中子图由至少一个子图算子组成,并且组成子图的子图算子可依次连续执行;以及通过可编程逻辑将第一输出数据返回至处理系统。
技术关键词
模型训练系统
浮点数
数据处理方法
计算机装置
可编程逻辑配置
校准
可读存储介质
链表
数据处理系统
计算机程序产品
处理器
存储器
参数
节点
精度
系统为您推荐了相关专利信息
HTTP请求
联调工具
数据处理方法
解压缩算法
计算机可读指令
车辆行驶数据
面部图像数据
图像传感器
车辆行驶状态
语音传感器
信息单元集合
实体关联关系
推理规则
数据处理方法
语义关联网络