摘要
本发明公开了一种面向芯片设计的神经架构搜索方法,该方法包括:使用经过训练的包含多种卷积算子的大型神经网络构建超网络;然后使用随机松弛方法转化不可微分的目标函数为可微分目标函数,利用实验将芯片的性能建模为硬件模型;利用多变量几何信息优化搜索方法,结合蒙特卡洛法估计梯度进行神经网络结构和神经网络参数的优化;基于实验对特定芯片的硬件性能进行建模,结合基于实验获取的硬件模型,采用动态规划方法对已训练的超网络进行结构搜索,确定最终的目标网络。本发明可以在计算能力受限或者具有特定性能要求的芯片上高效地搜索出最优高效的网络结构。
技术关键词
超网络
神经架构搜索
神经网络结构
动态规划方法
松弛方法
蒙特卡洛法
芯片
优化搜索方法
变量
背包
蒙特卡洛方法
神经网络架构
神经网络参数
梯度下降法
算法
节点
通道
系统为您推荐了相关专利信息
鲁棒跟踪控制方法
状态空间模型
历史运行数据
土压平衡盾构
动态规划方法
力矩补偿方法
非线性误差
弹性元件
滤波器系数
关节电机
无人机
深度学习模型
模糊控制规则
加速度
补偿值
变电站关口
时间同步误差
数据传输协议
强化学习模型
时序特征
订正方法
多模态
站点观测数据
标签
神经网络结构