MobileNets论文笔记

2018-03-06

MobileNetV1
1. 实现
MobileNetV2
1. 实现
参考

MobileNets论文笔记，包括MobileNetV1和MobileNetV2。

MobileNetV1

MobileNet的主要贡献在于损失少量精度的前提下减少计算量和参数数量，使得网络可以在移动设备上高效部署。
其重要的一个结构就是Depthwise Separable Convolution，其将普通卷积分解成depthwise卷积和pointwise卷积，以达到减少计算量和参数的目的。

关于参数减少计算：
参数减少量计算

实现

网络结构定义
MobilenetV1网络结构

# MobilenetV1 base 
Conv = namedtuple('Conv', ['stride', 'depth'])
DepthSepConv = namedtuple('DepthSepConv', ['stride', 'depth'])
MOBILENT_CONV_DEFS = [
    Conv(stride=2, depth=32),
    DepthSepConv(stride=1, depth=64),
    DepthSepConv(stride=2, depth=128),
    DepthSepConv(stride=1, depth=128),
    DepthSepConv(stride=2, depth=256),
    DepthSepConv(stride=1, depth=256),
    DepthSepConv(stride=2, depth=512),
    DepthSepConv(stride=1, depth=512),
    DepthSepConv(stride=1, depth=512),
    DepthSepConv(stride=1, depth=512),
    DepthSepConv(stride=1, depth=512),
    DepthSepConv(stride=1, depth=512),
    DepthSepConv(stride=2, depth=1024),
    DepthSepConv(stride=1, depth=1024)
]

MobileNetV2

MobileNetV2在MobileNetV1的基础上做了一些改进，其实我更感兴趣的是作者提出SSDLite，将MobileNetV2用于目标检测，其精度和速度都超过了YOLOv2。

实现

网络结构
MobilenetV2结构
微结构单元
注意stride=1时有残差结构，stride=2时无残差结构。
Inverted Residual
结构定义

InvertedResidual = namedtuple('InvertedResidual', ['stride', 'depth', 'num', 't'])
MOBILENET_V2_CONV_DEFS = [
    Conv(stride=2, depth=32),
    InvertedResidual(stride=1, depth=16, num=1, t=1),
    InvertedResidual(stride=2, depth=24, num=2, t=6),
    InvertedResidual(stride=2, depth=32, num=3, t=6),
    InvertedResidual(stride=2, depth=64, num=4, t=6),
    InvertedResidual(stride=1, depth=96, num=3, t=6),
    InvertedResidual(stride=2, depth=160, num=3, t=6),
    InvertedResidual(stride=1, depth=320, num=1, t=6),
]

参考

MobileNetV1 paper
MobileNetV2 paper
MobileNets详解
 Mobilenet pytorch实现
 tensorflow mobilenet_v1
tensorflow mobilenet_v2