参考博主:https://cloud.tencent.com/developer/article/1148375
1、最初的CNN模型成为plain networks,不特指某个模型框架。相比于直接优化最初的plain networks的模型F(x)=y,残差F(x)=y-x更容易优化
2、Shortcup,是跨越连接,不仅限于跨越1层,可跨越2层或者3层。
3、ResNet是由多个残差块组成,每个残差块都是采用shortcup跨越连接2层或者3层。
4、DenseNet将shortcut用到了“极致”——每两层之间都添加shortcut。如果把网络的所有层都dense connect,参数太大。DenseNet采用局部稠密连接,类似于残差块,使用dense block。每一个dense block里面的采用dense connect 。