数据处理方法、系统、计算机装置及计算机可读存储介质

AITNT
正文
推荐专利
数据处理方法、系统、计算机装置及计算机可读存储介质
申请号:CN202410776985
申请日期:2024-06-17
公开号:CN118627553B
公开日期:2025-03-11
类型:发明专利
摘要
本申请公开了一种数据处理方法、系统、计算机装置及计算机可读存储介质。其中,一种数据处理方法,包括:通过处理系统向可编程逻辑发送第一输入数据,其中第一输入数据为浮点数;通过可编程逻辑利用子图的子图算子中预设的量化参数将第一输入数据转换为第二输入数据,其中第二输入数据为定点数;通过可编程逻辑利用子图算子对第二输入数据进行与CNN相关的运算操作,生成第一输出数据,其中子图由至少一个子图算子组成,并且组成子图的子图算子可依次连续执行;以及通过可编程逻辑将第一输出数据返回至处理系统。
技术关键词
模型训练系统 浮点数 数据处理方法 计算机装置 可编程逻辑配置 校准 可读存储介质 链表 数据处理系统 计算机程序产品 处理器 存储器 参数 节点 精度
系统为您推荐了相关专利信息
1
一种媒体文件展示方法及设备
头像 照片 视频 页面 按键
2
设备处理方法、数据处理方法、装置、第二设备和系统
密钥 加密 网络配置信息 标识 账户
3
数据处理方法、装置、计算机设备及存储介质
HTTP请求 联调工具 数据处理方法 解压缩算法 计算机可读指令
4
模型训练方法、装置、系统及车辆
车辆行驶数据 面部图像数据 图像传感器 车辆行驶状态 语音传感器
5
基于知识图谱的多模态数据处理方法及系统
信息单元集合 实体关联关系 推理规则 数据处理方法 语义关联网络
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号