摘要
本公开的发明名称是“混合格式硬件和指令”。一个实施例提供了一种图形处理器,其包含存储器接口以及与存储器接口耦合的处理资源。该处理资源包括混合格式功能单元,混合格式功能单元被配置成接收整数输入和浮点输入;对整数输入和浮点输入执行融合格式转换乘法操作以生成浮点结果;以及输出浮点结果。
技术关键词
图形处理器
数据处理系统
格式
数据并行处理
存储器接口
单指令多线程
执行乘法
单指令多数据
芯片插槽
生成符号
指数
资源
指令操作码
数值
解码电路
系统为您推荐了相关专利信息
一维水动力模型
预测误差
非线性方程组
数值计算方法
线性化方法