整理备忘
目录
1. MobileNetV1
1.1 论文
1.2 网络结构
1.3 深度可分离卷积
1.4 计算量下降了
1.5 参数量下降了
2. MobileNetV2
2.1 论文
2.2 网络结构
2.3 效果
3. MobileNetV3
3.1 论文
3.2 网络结构
3.3 效果
1. MobileNetV1
1.1 论文
https://arxiv.org/abs/1704.04861
MobileNets基于流线型架构，使用深度可分离卷积来构建轻量级的深度神经网络。
1.2 网络结构
以深度可分离卷积为组件，构建的网络结构如下：
Figure3是深度可分离网络组件Conv dw，Table1是MobileNetV1网络结构。前五次通过Conv dw进行下采样，最后一次通过Avg Pool下采样变成1x1x1024，再接分类层，网络结构简单。
1.3 深度可分离卷积
图片来源：轻量级神经网络“巡礼”（二）—— MobileNet，从V1到V3 - 知乎
普通卷积：使用大小为5x5x3的卷积，去和12x12x3特征图点乘求和，得到8x8的特征图，有256个卷积去卷积，就得到8x8x256的特征图：
深度可分类卷积：将普通卷积（核大小5x5x3）拆分成深度卷积（核大小5x5x1），逐点卷积（核大小1x1x3），过程如下图。
（1）深度卷积，逐个通道去卷积，一个卷积（核大小5x5x1）去卷12x12x3，得到8x8x3特征图
（2）逐点卷积（就是1x1的卷积），逐个点去卷积，一个卷积（核大小1x1x3）去卷8x8x3，得到8x8x1特征图
256个卷积去卷，就得到8x8x256特征图
1.4 计算量下降了
（1）普通卷积的计算量：
D_k是卷积核大小，M，N分别是输入通道数，输出通道数；D_F是特征图大小。
（2）深度卷积的计算量：
（3）两者比例，输出通道数N和卷积核大小D_k越大，深度可分离卷积计算量相对就越小：
卷积核大小是3x3，计算量下降到原来的1/9到1/8.
将普通卷积换成深度可分离卷积后，实验效果，计算量下降了很多，但是精度没有下降多少。
1.5 参数量下降了
不仅计算量下降了很多，总参数数量也下降了。
（1）普通卷积：
对于一个普通的卷积层，假设输入通道数为M，输出通道数为N，卷积核大小为（D_K, D_K, M），那么参数数量可以为，一个卷积核的参数量是M*D_K*D_K，有N个卷积核：
（2）深度可分离卷积：
-
深度卷积：对每个输入通道进行单独的卷积（核大小是5x5x1），只有一个深度卷积核，所以
-
逐点卷积：在深度卷积之后，应用1×1的卷积（核大小是1x1xM）来组合输出通道，有N个逐点卷积核，所以参数数量为：
深度可分离卷积，总参数量是：
2. MobileNetV2
（1）MobileNetV2引入了残差连接，有助于梯度的流动，提高了网络的训练效率；
（3）MobileNetV2通过调整超参数，如宽度乘数（Width Multiplier）和分辨率乘数（Resolution Multiplier），提供了更大的灵活性，可以根据应用场景进行调整。
2.1 论文
https://arxiv.org/abs/1801.04381
2.2 网络结构
（1）同样是5次下采样，最后是一次AvgPooling接分类层。
（2）不同的是组件不再是一种深度可分离卷积，而是水桶型结构：先1x1卷积通道升维，再深度卷积，再接1x1卷积（也就是逐点卷积）降维，这里与Resnet刚好相反（所以叫Inverted Residuals），ResNet 先降维（0.25倍）、卷积、再升维，是沙漏型结构。
（3）步长为1时，再接一个跳层连接。
其中t是扩展通道的倍数。
为何要升维度呢？因为深度卷积没有升维度的能力，如果输入特征通道很少，则深度卷积只能在低维度上工作。所以先1x1卷积进行升维度。
2.3 效果
左图分类，右图分割任务。参数量更少，速度更快，准确率更高（实际哪个好要自己试）。
3. MobileNetV3
3.1 论文
Searching for MobileNetV3
https://arxiv.org/abs/1905.02244
（1）提出一种新的激活函数Hard Swish；
（2）引入了通道注意力机制（Channel Attention），以便网络能够更好地关注对特定任务重要的通道，从而提高了模型的性能。
（3）通过NAS，提供了两个不同的版本MobileNetV3，Large和Small，以适应不同的应用场景。MobileNetV3-Large在准确性上更为注重，而MobileNetV3-Small则更注重轻量化和快速推理。
3.2 网络结构
去掉V2最后几层卷积（黄色区域），然后后面接一个Avg-pooling再接分类层。
其中网络组件搞得更加复杂，V2和V3对比。
网络结构：
3.3 效果
图像分割任务，V3-Small在cpu下，1024x2048图片用时1.21s，512x1024用时0.327s.
