摘要
本发明提供了一种基于零阶近似的可微分自适应神经网络架构搜索方法,属于人工神经网络技术领域。本发明通过选定的多个神经网络操作构建受资源约束神经网络操作集合,再根据神经网络操作集合构建结构参数集合,设定适应不同资源情况的可变搜索,通过梯度下降方法更新结构参数,依据概率分布选取更新后结构参数集合中各个连接边所属的结构参数中对应的神经网络操作,得到复杂神经网络。本发明的基于零阶近似的可微分自适应神经网络架构搜索方法能够适应不同的计算平台资源约束,同时提高搜索复杂神经网络的效率和复杂神经网络的准确度。
技术关键词
神经网络架构搜索方法
更新模型参数
波动结构
批量数据
退火策略
人工神经网络技术
资源
尺寸
元素
因子
符号
变量
矩阵
平台
系统为您推荐了相关专利信息
网络流量分类方法
更新模型参数
随机梯度下降
网络流量数据
分布鲁棒优化
BERT模型
前馈神经网络
注意力机制
超参数
迁移学习技术
电力负荷预测方法
互补集合经验模态分解
小波阈值降噪
深度强化学习
噪声滤波