摘要
本公开涉及计算机技术领域,尤其涉及一种数据格式转换装置及方法、电子设备和存储介质,所述数据格式转换装置位于GPU中,与GPU中的数据存储器、矩阵运算模块相连接;包括:数据输入模块从数据存储器中读取源数据组;数据选择器对N个源数据的指数数据进行比较,选择指数数据最大的目标源数据;缩放因子确定子模块根据目标源数据确定目标缩放因子;格式转换模块根据目标缩放因子对每个源数据进行缩放处理,得到包括目标缩放因子、以及低精度N个目标数据的目标数据组;数据输出模块将目标数据组发送至矩阵运算模块。本公开实施例可实现将数据存储器中读取的高精度源数据组转换为低精度目标数据组之后再发送至矩阵运算模块进行数据处理。
技术关键词
数据格式转换装置
因子
数据存储器
数据输出模块
数据输入模块
数据选择器
子模块
缩放参数
数据格式转换方法
计算机程序指令
人工智能AI模型
指数
矩阵
算数逻辑单元
电子设备
图形处理器
系统为您推荐了相关专利信息
风险评估模型
过敏
管理系统
生成式对抗网络
风险评估方法
冷启动策略
函数调用次数
深度强化学习算法
网络
泊松噪声
碳资产管理
核算方法
二氧化碳排放量
数据获取模块
总量
阿尔兹海默病药物
血清炎症因子
星形胶质细胞
阿尔兹海默症模型
香紫苏醇