摘要
本发明提供一种混合精度计算方法及装置,涉及人工智能技术领域。所述方法包括:获取混合精度计算图,根据所述混合精度计算图进行编译优化,得到优化后的混合精度计算图;对混合精度算子进行优化,并根据优化后的混合精度算子和所述优化后的混合精度计算图,计算得到混合精度计算结果。所述装置执行上述方法。本发明实施例提供的混合精度计算方法及装置,能够提高混合精度计算效率。
技术关键词
精度计算方法
矩阵
离群点
人工智能技术
因子
处理器
可读存储介质
存储器
电子设备
内存
计算机
数据
系统为您推荐了相关专利信息
类器官模型
宫颈
细胞悬液
人表皮生长因子
羟乙基哌嗪乙磺酸
变压器运行状态评估方法
传感器
多模态注意力
机械振动信号
温漂
冗余特征
车辆行驶工况
车速预测方法
注意力
神经网络结构
监测定位方法
分布式光纤传感
数据处理模块
多模态
矩阵