用于压缩人工神经网络的技术

本公开涉及用于压缩人工神经网络的技术。各种实施例中的至少一个涉及用于生成经过训练的人工神经网络的计算机实现的方法。该方法包括：对于经过训练的模型中包含的每个模型层，训练一个或更多个学生模型层以模拟该模型层；对于多个目标设备中包含的第一目标设备，基于约束优化问题和一个或更多个经过训练的学生模型层生成一个或更多个候选架构；在校准数据集上训练一个或更多个候选架构；选择一个或更多个候选架构中包含的与最少误差量相关联的第一候选架构；以及对第一候选架构执行多个微调训练操作以生成第一经过训练的学生模型。