摘要
本申请实施例提供分类模型训练方法、分类检测方法及装置,涉及人工智能技术领域。将输入数据送入分类模型和教师模型进行分类预测得到学生分类结果教师分类结果、每个训练阶段的学生中间特征和教师中间特征,对于每个训练阶段,根据学生中间特征和教师中间特征计算异构对齐损失值,根据教师分类结果和教师中间特征计算教师分布一致性损失值,根据学生分类结果和教师分类结果计算分布对齐损失值,再根据学生分类结果和输入数据对应的数据标签计算学生任务损失值,基于上述所有损失值计算总损失值训练分类模型。利用多层级特征对齐和动态损失优化减少异构的语义鸿沟,实现对学生模型学习轨迹的感知与适应,提升异构模型的知识蒸馏准确率。
技术关键词
分类模型训练方法
教师
编码特征
分类检测方法
学生
异构
阶段
积层
数据标签
编码器
多层感知机
训练分类模型
多层级特征
样本
人工智能技术
数据处理模块
预测类别
注意力
系统为您推荐了相关专利信息
数字媒体艺术
教学系统
捕捉装置
空间分布特征
创作环境
集群机器人
实时定位系统
光电传感器
高精度实时定位装置
时间差
综合素质评价系统
数据存储方法
业务表
学生综合素质评价
关键字