摘要
本公开提供了模型参数的量化方法、模型推理方法、装置和设备,涉及人工智能领域,尤其涉及深度学习、模型量化、模型推理领域。具体实现方案为:根据卷积编码参数进行卷积编码,在第一存储空间保存第一编码空间;其中,该第一编码空间中的一个索引对应的位置存储有多个第一码值,该索引是基于一次卷积编码的多个状态的码元去重后得到的,该索引对应的位置存储的该多个第一码值包括该多个状态的码元;根据该第一编码空间对模型参数进行量化,得到量化结果,该量化结果与该索引具有对应关系。
技术关键词
索引
参数
比特数
推理方法
因子
反量化模块
推理装置
计算机程序产品
关系
解码模块
处理器通信
编码模块
指令
可读存储介质
存储器
电子设备
系统为您推荐了相关专利信息
转向执行机构
稳定方法
力矩平衡原理
攀爬作业
动态
卷积网络模型
节点特征
攻击检测方法
网络状态信息
实时状态信息
解耦方法
多结构
重构
残差网络模型
温度传感单元