深度神经网络的优化技巧

引起：剑启郁兰 2019-08-05 21:36:30

1、 深度神经网络主要要素结构

2、神经网络优化技巧框图

在这里插入图片描述

3、数据预处理部分

在这里插入图片描述

4、权重初始化部分

在这里插入图片描述

5、批量归一化部分

在这里插入图片描述

6、优化方法部分

在这里插入图片描述

7、激活函数部分

在这里插入图片描述

8、正则化和超参设置部分

在这里插入图片描述