一、密集层
· 每一层神经元都是上一层神经元的函数,每层每个神经元都从前一层获得所有激活的输入。
· 整个神经网络前一层与后一层连接在一起,构造的网络密集。
二、卷积层
假设有一张大小为axb像素的图片,上面标着一些手写数字,我需要构建隐藏层,计算不同的激活作为这个输入图像的函数,以预测图像呈现的数字:
· 隐藏层的单个神经元可能只会对某一块小区域的像素作输入,而不是扫描整个图像;
· 神经网络里的每个隐藏层的每个神经单元可能只对上一层的某些神经元的激活值作输入;
优点:
①加快计算速度
②需要的训练数据更少,更不容易过拟合
卷积神经网络:
当一个神经网络中含有多个卷积神经层(隐藏层)时,称其为卷积神经网络
例:通过心电图预测患者是否患有心脏病
· 输入可以是心电图中的每个波峰,对应地有一个波峰高度,将其记作
· 对于这些心电图的波峰,最后得到一个预期值,判断患者是或不是患有心脏病
在这里,我们所构建的神经网络是一个卷积神经网络:
· 第一个隐藏层里的每一个神经单元都不必使用所有输入,而是用一部分 作为输入
· 第二个隐藏层里的每一个神经单元都不必使用前一个输出的所有激活值,每个单元只需要一部分
· 最后一个是sigmoid输出层,用来预测“患病”的概率值