单精度芯片数据处理方法、系统、芯片、设备和存储介质

AITNT
正文
推荐专利
单精度芯片数据处理方法、系统、芯片、设备和存储介质
申请号:CN202411855691
申请日期:2024-12-17
公开号:CN119690381A
公开日期:2025-03-25
类型:发明专利
摘要
本申请实施例提供一种单精度芯片数据处理方法、系统、芯片、设备和存储介质,涉及芯片数据处理技术领域。方法包括对单精度芯片,通过至少三个单精度浮点表示双精度浮点;将单精度芯片内的双精度浮点数的计算进行归约处理;通过归约等式对双精度浮点数的计算进行重建计算,以完成对单精度芯片中双精度浮点数据的处理。本申请通过使用多个单精度浮点数表示双精度浮点数的表示法,并使用单精度运算单元计算双精度超越函数,能够利用单精度浮点运算单元来进行双精度超越函数计算,适用于GPU等具有大量32位单精度运算部件而缺乏64位双精度浮点运算部件的芯片,能够充分发挥芯片的算力。
技术关键词
芯片数据处理方法 双精度浮点数 逼近算法 芯片数据处理技术 数据处理系统 浮点运算部件 浮点运算单元 单精度浮点数 处理器 存储器 模块 计算机设备 可读存储介质 多项式 分段
系统为您推荐了相关专利信息
1
一种带视觉检测的柠檬分拣机及控制方法
柠檬 送料组件 带支架 下料装置 图像
2
一种基于数据潮流映射的配电网未知量测信息补全方法
信息补全方法 数据驱动模型 数据补全技术 故障诊断系统 配电网系统
3
一种港口危险货物泄漏事故模拟处理方法及系统
智能交互系统 三维模型 场景 模块 平台
4
一种北斗星基增强数据处理方法及系统
数据处理方法 校验纠错 数据处理系统 纠错码技术 北斗GEO卫星
5
一种多层次动态隔离的数据处理系统及方法
策略 机器学习模型 数据处理系统 多层次 动态
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号