摘要
本发明涉及人工智能芯片技术领域,提供一种数据处理方法、电子设备、存储介质和程序产品,其中方法包括:获取以第一数据格式存储的输入数据;在将输入数据加载至主缓存的过程中,将输入数据从第一数据格式转换为第二数据格式,第二数据格式为张量核心所支持的硬件专用数据格式;基于张量核心,利用以第二数据格式存储于主缓存中的数据,执行矩阵乘法运算,生成结果数据;将结果数据从第二数据格式转换为第一数据格式,并输出转换后的结果数据。本发明通过在数据流转的关键环节引入自动的格式转换机制,成功打通了上层应用与底层张量核心硬件之间的通道,在不牺牲易用性的前提下,实现了对张量核心的有效利用,带来了显著的性能提升。
技术关键词
数据格式
数据处理方法
执行矩阵乘法
人工智能芯片技术
专用指令
布局
非暂态计算机可读存储介质
核心
电子设备
处理器
计算机程序产品
指针
数据存储
内存
存储器
通道
系统为您推荐了相关专利信息
日志自动采集
判定系统
缺陷管理工具
日志分析
自动化测试框架
数据接口
数据接收模块
分析模块
深度强化学习算法
输出模块
数据处理方法
仿真平台
仿真数据
生成标签
数据归档
矩阵乘法运算
计数器计数值
数据流控制模块
执行矩阵乘法
执行乘法