摘要
本发明提供一种数据运算方法、设备和介质,其中方法包括:确定第一类型下的第一数据,并以第二类型的形式读取第一数据,得到第二数据,第一类型在计算硬件所支持的类型范围之外,第二类型在类型范围之内,且第一数据所占用的第一内存空间小于等于第二数据所占用的第二内存空间;将第二数据中占用所述第一内存空间大小的数据扩展为第三类型下的第三数据,并基于第三数据进行数据运算,得到运算结果,第三类型在所述类型范围内,且第三类型的精度高于所述第一类型的精度。本发明提供的方法、设备及介质,通过使用计算硬件支持的第二类型读取第一数据,提升了计算硬件的兼容性。运算时,第二数据被扩展为更高精度的第三类型,确保运算结果的准确性。
技术关键词
数据运算方法
张量处理器
数据写入存储器
人工智能芯片
精度
计算机程序产品
介质
电子设备
模块
系统为您推荐了相关专利信息
快速原型
特征提取网络
训练神经网络
样本
识别方法