摘要
本发明公开了一种基于深度学习技术的AI算法优化方法及系统,涉及深度学习模型优化技术领域,包括,对数据集进行预处理,并做归一化和标准化处理,将数据集划分为训练集、验证集和测试集;在ResNet‑18深度学习模型的卷积层引入自注意力机制,通过计算特征图的自相似性矩阵,动态调整每个通道的权重;利用训练集数据对模型进行训练,在训练过程中对模型学习率进行动态调整;通过超参数调优方法,自动搜索最优的超参数组合;通过静态量化方法减少模型参数数量和计算量;导出并部署模型,导入测试集,对模型性能进行测试;本发明通过在ResNet‑18模型的卷积层引入自注意力机制,动态调整每个通道的权重,增强了模型对重要特征的关注,提高了特征提取的精度。
技术关键词
算法优化方法
深度学习技术
超参数调优方法
注意力机制
训练集数据
深度学习模型优化
矩阵
模型压缩
动态
测试模块
内存占用量
浮点数
初始化方法
管理工具