一种数据格式转换装置及方法、电子设备和存储介质

AITNT
正文
推荐专利
一种数据格式转换装置及方法、电子设备和存储介质
申请号:CN202511212015
申请日期:2025-08-28
公开号:CN120704739A
公开日期:2025-09-26
类型:发明专利
摘要
本公开涉及计算机技术领域,尤其涉及一种数据格式转换装置及方法、电子设备和存储介质,所述数据格式转换装置位于GPU中,与GPU中的数据存储器、矩阵运算模块相连接;包括:数据输入模块从数据存储器中读取源数据组;数据选择器对N个源数据的指数数据进行比较,选择指数数据最大的目标源数据;缩放因子确定子模块根据目标源数据确定目标缩放因子;格式转换模块根据目标缩放因子对每个源数据进行缩放处理,得到包括目标缩放因子、以及低精度N个目标数据的目标数据组;数据输出模块将目标数据组发送至矩阵运算模块。本公开实施例可实现将数据存储器中读取的高精度源数据组转换为低精度目标数据组之后再发送至矩阵运算模块进行数据处理。
技术关键词
数据格式转换装置 因子 数据存储器 数据输出模块 数据输入模块 数据选择器 子模块 缩放参数 数据格式转换方法 计算机程序指令 人工智能AI模型 指数 矩阵 算数逻辑单元 电子设备 图形处理器
系统为您推荐了相关专利信息
1
一种儿童过敏的管理系统
风险评估模型 过敏 管理系统 生成式对抗网络 风险评估方法
2
无服务计算中冷启动策略优化方法、装置、设备及介质
冷启动策略 函数调用次数 深度强化学习算法 网络 泊松噪声
3
一种基于混合博弈理论的多利益主体日前电能交易方法
电能交易方法 出清方法 策略 理论 电力
4
电力企业碳资产核算方法及系统
碳资产管理 核算方法 二氧化碳排放量 数据获取模块 总量
5
香紫苏醇在制备预防或治疗阿尔兹海默病药物中的用途
阿尔兹海默病药物 血清炎症因子 星形胶质细胞 阿尔兹海默症模型 香紫苏醇
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号