模型参数的量化方法、模型推理方法、装置和设备

AITNT
正文
推荐专利
模型参数的量化方法、模型推理方法、装置和设备
申请号:CN202510897357
申请日期:2025-06-30
公开号:CN120851109A
公开日期:2025-10-28
类型:发明专利
摘要
本公开提供了模型参数的量化方法、模型推理方法、装置和设备,涉及人工智能领域,尤其涉及深度学习、模型量化、模型推理领域。具体实现方案为:根据卷积编码参数进行卷积编码,在第一存储空间保存第一编码空间;其中,该第一编码空间中的一个索引对应的位置存储有多个第一码值,该索引是基于一次卷积编码的多个状态的码元去重后得到的,该索引对应的位置存储的该多个第一码值包括该多个状态的码元;根据该第一编码空间对模型参数进行量化,得到量化结果,该量化结果与该索引具有对应关系。
技术关键词
索引 参数 比特数 推理方法 因子 反量化模块 推理装置 计算机程序产品 关系 解码模块 处理器通信 编码模块 指令 可读存储介质 存储器 电子设备
系统为您推荐了相关专利信息
1
一种面向脉冲循环神经网络的计算系统
脉冲 存储模块 数据编码 数据传输模块 核心
2
一种基于Unity引擎的陆战场景数据集生成方法以及装置
战场环境 场景 装备 地物模型 相机拍摄参数
3
攀爬机器人动态负载下的转向稳定方法
转向执行机构 稳定方法 力矩平衡原理 攀爬作业 动态
4
协同虚假数据注入攻击检测方法、装置、电子设备及介质
卷积网络模型 节点特征 攻击检测方法 网络状态信息 实时状态信息
5
一种多结构SAW的轴承参数解耦方法及系统
解耦方法 多结构 重构 残差网络模型 温度传感单元
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号