用于智能模型高效训练和推理的浮点表示方法

AITNT
正文
推荐专利
用于智能模型高效训练和推理的浮点表示方法
申请号:CN202411114268
申请日期:2024-08-14
公开号:CN119067219A
公开日期:2024-12-03
类型:发明专利
摘要
本发明公开了用于智能模型高效训练和推理的浮点表示方法,属于人工智能领域。浮点表示方法包括:基于智能模型中浮点数的数值分布特征,将数轴划分为多个浮动区间;基于每个浮动区间的浮点数密度,为每个浮动区间分配确定的比特位数量;基于所述比特位数量,通过哈夫曼编码为每个浮动区间分配唯一的区间标识符;每个浮点数的表示由所述区间标识符和所述浮动区间内的具体位置组成。相比于现有IEEE‑754类浮点格式,本发明公开的用于智能模型高效训练和推理的浮点表示方法,解决了现有浮点格式存在不同精度转换开销大、存储与计算紧耦合、浮点数据在数轴上分布不均等问题,提升了智能模型中浮点数据表示的效率,为智能模型训练和推理的优化提供了新的机会。
技术关键词
智能模型 浮点计算方法 浮点数 分布特征 推理系统 标识符 数值 密度 索引 格式 机制 编码 数据 动态 精度
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号