算子精度验证方法、系统、电子设备和存储介质

AITNT
正文
推荐专利
算子精度验证方法、系统、电子设备和存储介质
申请号:CN202411095962
申请日期:2024-08-12
公开号:CN118626399B
公开日期:2025-03-28
类型:发明专利
摘要
一种算子精度验证方法、系统、电子设备和存储介质。该算子精度验证方法包括:获取当前待验证的第一算子;基于第一算子得到测试模型;分别通过参考硬件和待测试硬件训练测试模型,以得到测试模型在参考硬件和待测试硬件上的收敛情况,其中,测试模型至少在参考硬件上被训练至收敛;根据测试模型在参考硬件和待测试硬件上的收敛情况,确定第一算子在待测试硬件上的精度是否达标。该算子精度验证方法能够准确验证算子在待测试硬件上的精度,验证结果的可靠性高。
技术关键词
精度验证方法 计算机可执行指令 非瞬时性计算机可读存储介质 精度验证系统 人工智能加速器 数据 电子设备 模块 速度 深度学习模型 场景 中央处理器 基础 参数 批量 规模 存储器 阶段
系统为您推荐了相关专利信息
1
一种基于用户画像的个性化路况推送方法、设备及介质
路况信息 画像 推送方法 特征值 非易失性计算机存储介质
2
一种数据库分区表的处理方法、装置、系统及介质
数据库分区表 标识 索引 计算机可执行指令 策略
3
基于贝叶斯优化的钌、锡、铟掺杂富锂锰基电催化剂筛选方法及电子设备和存储介质
筛选方法 训练机器学习模型 电催化剂 富锂锰基材料 随机森林
4
基于摄像头信息的标签定位方法、装置和电子设备
坐标系 视频监控系统 标签定位方法 屏幕 画面
5
一种数据处理方法、装置及设备
面部特征 编辑 特征提取模型 面部识别 真实面部
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号