模型蒸馏方法、装置、设备及存储介质

AITNT
正文
推荐专利
模型蒸馏方法、装置、设备及存储介质
申请号:CN202510804604
申请日期:2025-06-16
公开号:CN120851073A
公开日期:2025-10-28
类型:发明专利
摘要
本申请适用于机器学习技术领域,提供了模型蒸馏方法、装置、设备及存储介质,该方法包括获取N组样本数据,每组样本数据用于指示样本主机的使用情况及样本主机包括的多个样本虚拟机中每个样本虚拟机的使用情况;将N组样本数据输入教师模型,得到N组第一预测数据;将N组样本数据分别输入M个学生模型,得到每个学生模型的N组第二预测数据;根据每个学生模型的第一差异和每个学生模型的第二差异,对M个学生模型分别进行训练,得到M个训练后的学生模型。从而,本申请可以实现将复杂教师模型的知识迁移至占用资源更小复杂度更低的学生模型,使得复杂度更低的学生模型,保持精度的情况下实现高效快速的推理。
技术关键词
资源管理数据 样本 学生 模型蒸馏方法 教师 主机 注意力 复杂度 机器学习技术 可读存储介质 蒸馏装置 中央处理器 模块 存储器 计算机 电子设备 磁盘 内存
系统为您推荐了相关专利信息
1
一种教学信息化管理系统
智能分析模块 教师 学生 数据处理模块 数据采集模块
2
基于人工智能的学生自适应辅助学习方法及系统
学科知识图谱 学生 辅助学习方法 知识点 辅助学习系统
3
一种基于终身学习的可微医学跨模态哈希检索方法
文本 图像视觉特征 样本 数据 医学
4
一种结构化数据动态抽样及安全存储方法和装置
抽样算法 动态 存储方法 数据抽样 对象
5
基于条件信息生成缺失特征的海洋数据重构方法
数据重构方法 重构模型 海洋 损失函数设计 样本
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号