摘要
本发明公开了用于智能模型高效训练和推理的浮点表示方法,属于人工智能领域。浮点表示方法包括:基于智能模型中浮点数的数值分布特征,将数轴划分为多个浮动区间;基于每个浮动区间的浮点数密度,为每个浮动区间分配确定的比特位数量;基于所述比特位数量,通过哈夫曼编码为每个浮动区间分配唯一的区间标识符;每个浮点数的表示由所述区间标识符和所述浮动区间内的具体位置组成。相比于现有IEEE‑754类浮点格式,本发明公开的用于智能模型高效训练和推理的浮点表示方法,解决了现有浮点格式存在不同精度转换开销大、存储与计算紧耦合、浮点数据在数轴上分布不均等问题,提升了智能模型中浮点数据表示的效率,为智能模型训练和推理的优化提供了新的机会。
技术关键词
智能模型
浮点计算方法
浮点数
分布特征
推理系统
标识符
数值
密度
索引
格式
机制
编码
数据
动态
精度