数据运算方法、设备和介质

AITNT
正文
推荐专利
数据运算方法、设备和介质
申请号:CN202411595703
申请日期:2024-11-08
公开号:CN119396592A
公开日期:2025-02-07
类型:发明专利
摘要
本发明提供一种数据运算方法、设备和介质,其中方法包括:确定第一类型下的第一数据,并以第二类型的形式读取第一数据,得到第二数据,第一类型在计算硬件所支持的类型范围之外,第二类型在类型范围之内,且第一数据所占用的第一内存空间小于等于第二数据所占用的第二内存空间;将第二数据中占用所述第一内存空间大小的数据扩展为第三类型下的第三数据,并基于第三数据进行数据运算,得到运算结果,第三类型在所述类型范围内,且第三类型的精度高于所述第一类型的精度。本发明提供的方法、设备及介质,通过使用计算硬件支持的第二类型读取第一数据,提升了计算硬件的兼容性。运算时,第二数据被扩展为更高精度的第三类型,确保运算结果的准确性。
技术关键词
数据运算方法 张量处理器 数据写入存储器 人工智能芯片 精度 计算机程序产品 介质 电子设备 模块
系统为您推荐了相关专利信息
1
一种电池包的参数设计方法、装置、设备和可读存储介质
车身结构 座椅安装点 变量 电池 参数设计方法
2
基于电阻率参数的土壤有机污染浓度预测方法和系统
衰减特征 动态数据集 双模态 浓度预测方法 频段
3
基于快速原型优化的高分辨率距离像目标识别方法
快速原型 特征提取网络 训练神经网络 样本 识别方法
4
一种工程数据指标分析的方法、装置、设备及存储介质
指标 数据分类识别 误差 模型更新 电子设备
5
一种基于计算资源自动调度的预警方法
预警模型 预警方法 处理器 数据模块 预警算法
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号