模型数据的反量化方法、矩阵运算方法以及相关设备

AITNT
正文
推荐专利
模型数据的反量化方法、矩阵运算方法以及相关设备
申请号:CN202510749723
申请日期:2025-06-05
公开号:CN120671828A
公开日期:2025-09-19
类型:发明专利
摘要
本申请实施例公开了一种模型数据的反量化方法、矩阵运算方法以及相关设备,其中,反量化方法包括:确定模型中待反量化的第一浮点数据;将第一浮点数据视为与其位宽相同的第一整型数据,进行从第一位宽扩展至第二位宽的第一类型转换处理,以生成中间浮点数据;对中间浮点数据进行维持第二位宽的第二类型转换处理,生成第二整型数据;对第二整型数据进行格式修正处理,生成反量化后的第二浮点数据;本申请可以简化反量化流程,提升计算效率,从而适配部分存在指令集限制,缺乏对低精度浮点数据的专用计算指令支持的芯片,提高人工智能模型训练的整体性能。
技术关键词
矩阵运算方法 反量化方法 执行矩阵乘法 格式 人工智能模型训练 布局 存储程序指令 数据存储 指数 处理器 芯片 可读存储介质 符号 模块 存储器 电子设备
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号