摘要
本公开提供了一种计算单元的测试方法,涉及人工智能技术领域,尤其涉及芯片、深度学习和测试技术领域。具体实现方案为:根据第一三角函数值序列、第二三角函数值序列和第三三角函数值序列,利用目标计算单元分别得到第一矩阵、第二矩阵和基准矩阵,其中,第一矩阵的第一向量是通过将第一三角函数值序列沿第一方向循环移动第一移动位数得到的,第二矩阵的第二向量是通过将第二三角函数值序列沿第二方向循环移动第二移动位数得到的;利用待测计算单元将第一矩阵和第二矩阵相乘,得到待测结果矩阵;以及根据待测结果矩阵和基准矩阵之间的差异,确定待测计算单元的精度测试结果。本公开还提供了一种计算单元的测试装置、电子设备和存储介质。
技术关键词
序列
矩阵
基准
规模
参数
精度
测试方法
电子设备
人工智能技术
计算机程序产品
处理器通信
指令
公差
可读存储介质
存储器
芯片
系统为您推荐了相关专利信息
BERT模型
稳定方法
深度学习模型
价格预测模型
商品价格预测
自动搜索方法
遗传算法
卷积神经网络结构
搜索系统
轮盘赌算法
卫星轨道参数
卫星探测器
开机次数
求解算法
处理器通信
建设工程造价
数据容灾方法
网络
备份存储位置
误差
电能分项计量
计量误差
检测模型训练方法
序列
频段