一种模型推理方法、模型量化方法和电子设备

本申请公开一种模型推理方法、模型量化方法和电子设备，涉及人工智能技术领域，所公开的模型推理方法包括：获得待处理任务和模型量化数据；模型量化数据包括：对第一模型中第一网络层所对应至少一个第一权重块进行量化所得的至少一个第一量化权重，第一模型中第二网络层所对应至少一个第二权重块中目标第二权重块与各第一权重块中目标第一权重块之间的映射关系信息；目标第二权重块和目标第一权重块分别对应的量化权重满足相似条件；基于映射关系信息，确定所述至少一个第一量化权重中与目标第二权重块对应的目标第二量化权重满足相似条件的目标第一量化权重；在第二网络层至少基于目标第一量化权重对待处理任务进行推理，以生成任务处理结果。