1.8.5 卷积神经网络近年来在结构设计上的主要发展和变迁——Inception-v4 和 Inception-ResNet
前情回顾:
1.8.1 卷积神经网络近年来在结构设计上的主要发展和变迁——AlexNet
1.8.2 卷积神经网络近年来在结构设计上的主要发展和变迁——VGGNet
1.8.3 卷积神经网络近年来在结构设计上的主要发展和变迁——GoogleNet/inception-v1
1.8.4 卷积神经网络近年来在结构设计上的主要发展和变迁——Inception-v2 和Inception-v3
论文: Inception-v4, inception-resnet and the impact of resid lual connections on learning (2017)
想要详细了解ResNet网络,点这里:ResNet网络(2015年提出)
Inception-v4
Inception-v4 在Inception-v3 上的基础上,修改了网络初始几层的结构(文中称为Stem),同时应用了Inception-A、Inception-B、Inception-C模块,还在原来Inception-v3的下采样模块的基础上提出并应用了Reduction-A、Reduction-B模块,其网络结构如图1.14所示。Inception-v4在ImageNet 2012数据集的图像分类任务上,能使Top-5错误率降至3.8%。
此外,此论文还提出了基于残差网络跳层连接的Inception-ResNet系列网络,如图1.15所示。引入残差结构可以显著加速Inception网络的训练。在ImageNet 2012数据集的图像分类任务上,Inception-ResNet-v1和Inception-ResNet-v2单模型的 Top-5错误率分别是4.3%和 3.7%; 如果使用3个Inception-ResNet-v2进行集成,则可以使错误率降至3.1%。
下集预告:1.8.6
卷积神经网络近年来在结构设计上的主要发展和变迁——ResNeXt
参考文献:
《百面深度学习》 诸葛越 江云胜主编
出版社:人民邮电出版社(北京)
ISBN:978-7-115-53097-4
2020年7月第1版(2020年7月北京第二次印刷)
推荐阅读:
//好用小工具↓
分享一个免费的chat工具
分享一个好用的读论文的网站
// 深度学习经典网络↓
LeNet网络(1989年提出,1998年改进)
AlexNet网络(2012年提出)
VGGNet网络(2014年提出)
LeNet、AlexNet、VGGNet总结
GoogLeNet网络(2014年提出)
ResNet网络(2015年提出)