1.网络裁剪: 将网络模型中接近于0的极小值设置为0,然后重新训练网络。这个过程来回几个循环。
2.权重共享: 每一层的参数采用K-MEANS聚类,将拥有同一个聚类中心的参数共享同一个值。这个过程来回几个循环。
3.加强L2正则化:让模型参数更多的值接近于0,增强网络裁剪比例。
4.网络精简:精简卷积层,采用速度更快的网络,比如引入fire module、NIN、除全连接层等一些设计思想。。。
1.网络裁剪: 将网络模型中接近于0的极小值设置为0,然后重新训练网络。这个过程来回几个循环。
2.权重共享: 每一层的参数采用K-MEANS聚类,将拥有同一个聚类中心的参数共享同一个值。这个过程来回几个循环。
3.加强L2正则化:让模型参数更多的值接近于0,增强网络裁剪比例。
4.网络精简:精简卷积层,采用速度更快的网络,比如引入fire module、NIN、除全连接层等一些设计思想。。。