摘要
本发明提出了一种用于检测特定类型图片的模型训练方法和系统,包括:构建无标签数据集和小规模有标签特定类型图片数据集;采用残差网络框架、激活函数、规范化方式设计第一网络,并采用流形混合设计数据增强策略,采用规范化度量对比损失函数与特定优化算法训练第一网络;执行自监督预训练;在第一网络的基础上构建第二网络时通道数缩减,利用第一网络对第二网络进行知识蒸馏、互斥式散度函数,第二网络再利用交叉熵损失函数经过有监督微调,最终以第二网络训练出的参数作为分类模型。本发明能以少量有标签样本训练高精度模型,改善长尾分布问题,增强机器学习性能,降低样本标注成本,适用于网络环境监控、内容审查等领域。
技术关键词
模型训练方法
无标签数据
图片
模型训练系统
样本
度量
前馈神经网络
残差网络
策略
算法
蒸馏
小规模
处理单元
教师
参数
编码
模块
系统为您推荐了相关专利信息
非标自动化生产线
智能视觉检测系统
峰值信噪比
Retinex算法
Canny算法
风险预测模型
样本
最佳参数组合
风险分析方法
超参数
迁移学习模型
传感器老化
老化特征
注意力机制
皮尔逊相关系数
决策系统
评价指标体系
贝叶斯模型
构建系统
评价指标筛选
动态反演方法
历史气象数据
空气质量监测站
回归算法
梯度回归树