一种混合精度计算方法及装置

AITNT
正文
推荐专利
一种混合精度计算方法及装置
申请号:CN202411617168
申请日期:2024-11-13
公开号:CN119668687A
公开日期:2025-03-21
类型:发明专利
摘要
本发明提供一种混合精度计算方法及装置,涉及人工智能技术领域。所述方法包括:获取混合精度计算图,根据所述混合精度计算图进行编译优化,得到优化后的混合精度计算图;对混合精度算子进行优化,并根据优化后的混合精度算子和所述优化后的混合精度计算图,计算得到混合精度计算结果。所述装置执行上述方法。本发明实施例提供的混合精度计算方法及装置,能够提高混合精度计算效率。
技术关键词
精度计算方法 矩阵 离群点 人工智能技术 因子 处理器 可读存储介质 存储器 电子设备 内存 计算机 数据
系统为您推荐了相关专利信息
1
一种正常宫颈类器官的构建和培养方法
类器官模型 宫颈 细胞悬液 人表皮生长因子 羟乙基哌嗪乙磺酸
2
一种变压器运行状态评估方法及系统
变压器运行状态评估方法 传感器 多模态注意力 机械振动信号 温漂
3
基于双分支道路网络预训练表示的轨迹终点预测方法与系统
道路特征 轨迹 终点 分支 编码器
4
车速预测方法、装置及电子设备
冗余特征 车辆行驶工况 车速预测方法 注意力 神经网络结构
5
一种光纤通感数据处理模块、监测装置及监测定位方法
监测定位方法 分布式光纤传感 数据处理模块 多模态 矩阵
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号