摘要
本申请适用于机器学习技术领域,提供了模型蒸馏方法、装置、设备及存储介质,该方法包括获取N组样本数据,每组样本数据用于指示样本主机的使用情况及样本主机包括的多个样本虚拟机中每个样本虚拟机的使用情况;将N组样本数据输入教师模型,得到N组第一预测数据;将N组样本数据分别输入M个学生模型,得到每个学生模型的N组第二预测数据;根据每个学生模型的第一差异和每个学生模型的第二差异,对M个学生模型分别进行训练,得到M个训练后的学生模型。从而,本申请可以实现将复杂教师模型的知识迁移至占用资源更小复杂度更低的学生模型,使得复杂度更低的学生模型,保持精度的情况下实现高效快速的推理。
技术关键词
资源管理数据
样本
学生
模型蒸馏方法
教师
主机
注意力
复杂度
机器学习技术
可读存储介质
蒸馏装置
中央处理器
模块
存储器
计算机
电子设备
磁盘
内存
系统为您推荐了相关专利信息
智能分析模块
教师
学生
数据处理模块
数据采集模块
学科知识图谱
学生
辅助学习方法
知识点
辅助学习系统