0. 前言

从今天开始，我将为大家逐步介绍Mask RCNN这个将检测和分割统一起来的框架的具体原理以及详细代码解读，项目地址为官方代码，基于Keras框架实现，如果你不会Keras也并不要紧，我会尽量将原理和代码的解释做到位。

1. 算法总览

Mask-RCNN是一个实例分割（Instance segmentation）框架，通过增加不同的分支可以完成目标分类，目标检测，语义分割，实例分割，人体姿态估计等多种任务。对于实例分割来讲，就是在Faster-RCNN的基础上(分类+回归分支)增加了一个分支用于语义分割，其抽象结构如Figure1所示：

稍微描述一下这个结构：

• 输入预处理后的原始图片。
• 将输入图片送入到特征提取网络得到特征图。
• 然后对特征图的每一个像素位置设定固定个数的ROI（也可以叫Anchor），然后将ROI区域送入RPN网络进行二分类(前景和背景)以及坐标回归，以获得精炼后的ROI区域。
• 对上个步骤中获得的ROI区域执行论文提出的ROIAlign操作，即先将原图和feature map的pixel对应起来，然后将feature map和固定的feature对应起来。
• 最后对这些ROI区域进行多类别分类，候选框回归和引入FCN生成Mask，完成分割任务。

下图更清晰的展示了Mask-RCNN的整体框架，来自知乎用户vision：

2. 方法

2.1 原始ROI Pooling的问题

在Faster-RCNN中ROI Pooling的过程如下图所示：

输入图片的大小为$800\times 800$，其中狗这个目标框的大小为$665\times 665$，经过VGG16网络之后获得的特征图尺寸为$800/32 \times 800/32=25\times 25$，其中$32$代表VGG16中的$5$次下采样（步长为2）操作。同样，对于狗这个目标，我们将其对应到特征图上得到的结果是$665/32 \times 665/32=20.78\times 20.78=20\times 20$，因为坐标要保留整数所以这里引入了第一个量化误差即舍弃了目标框在特征图上对应长宽的浮点数部分。

然后我们需要将这个$20\times 20$的ROI区域映射为$7\times 7$的ROI特征图，根据ROI Pooling的计算方式，其结果就是$20/7 \times 20/7=2.86\times 2.86$，同样执行取整操作操作后ROI特征区域的尺寸为$2\times 2$，这里引入了第二次量化误差。

从上面的分析可以看出，这两次量化误差会导致原始图像中的像素和特征图中的像素进行对应时出现偏差，例如上面将$2.86$量化为$2$的时候就引入了$0.86$的偏差，这个偏差映射回原图就是$0.86\times 32=27.52$，可以看到这个像素偏差是很大的。

2.2 ROIAlign

为了缓解ROI Pooling量化误差过大的缺点，本论文提出了ROIAlign，ROIAligin没有使用量化操作，而是使用了双线性插值。它充分的利用原图中的虚拟像素值如$27.52$四周的四个真实存在的像素值来共同决定目标图中的一个像素值，即可以将和$27.52$类似的非整数坐标值像素对应的输出像素值估计出来。这一过程如下图所示：

其中feat. map就是VGG16或者其他Backbone网络获得的特征图，黑色实线表示的是ROI划分方式，最后输出的特征图大小为$2\times 2$，然后就使用双线性插值的方式来估计这些蓝色点的像素值，最后得到输出，然后再在橘红色的区域中执行Pooling操作最后得到$2\times 2$的输出特征图。可以看到，这个过程相比于ROI Pooling没有引入任何量化操作，即原图中的像素和特征图中的像素是完全对齐的，没有偏差，这不仅会提高检测的精度，同时也会有利于实例分割。

2.3 网络结构

为了证明次网络的通用性，论文构造了多种不同结构的Mask R-CNN，具体为使用不同的Backbone网络以及是否将用于边框识别和Mask预测的上层网络分别应用于每个ROI。对于Backbone网络，Mask R-CNN基本使用了之前提出的架构，同时添加了一个全卷积的Mask(掩膜)预测分支。Figure3展示了两种典型的Mask R-CNN网络结构，左边的是采用$ResNet$或者$ResNeXt$做网络的backbone提取特征，右边的网络采用FPN网络做Backbone提取特征，最终作者发现使用ResNet-FPN作为特征提取的backbone具有更高的精度和更快的运行速度，所以实际工作时大多采用右图的完全并行的mask/分类回归。

2.4 损失函数

Mask分支针对每个ROI区域产生一个$K\times m\times m$的输出特征图，即$K$个$m\times m$的二值掩膜图像，其中$K$代表目标种类数。Mask-RCNN在Faster-RCNN的基础上多了一个ROIAligin和Mask预测分支，因此Mask R-CNN的损失也是多任务损失，可以表示为如下公式：
$L=L_{cls}+L_{box}+L_{mask}$
其中$L_{cls}$表示预测框的分类损失，$L_{box}$表示预测框的回归损失，$L_{mask}$表示Mask部分的损失。
对于预测的二值掩膜输出，论文对每一个像素点应用sigmoid函数，整体损失定义为平均二值交叉损失熵。引入预测K个输出的机制，允许每个类都生成独立的掩膜，避免类间竞争。这样做解耦了掩膜和种类预测。不像FCN的做法，在每个像素点上应用softmax函数，整体采用的多任务交叉熵，这样会导致类间竞争，最终导致分割效果差。

下图更清晰的展示了Mask-RCNN的Mask预测部分的损失计算，来自知乎用户vision：

3. 训练

在Faster-RCNN中，如果ROI区域和GT框的IOU>0.5，则ROI是正样本，否则为负样本。$L_{mask}$只在正样本上定义，而Mask的标签是ROI和它对应的Ground Truth Mask的交集。其他的一些训练细节如下：

• 采用image-centric方式训练，将图片的长宽较小的一边缩放到800像素。
• 每个GPU的mini-batch=2，每张图片有$N$个采样ROIs，其中正负样本比例为1:3。
• 在8个gpu上进行训练，batch_size=2，迭代160k次，初始学习率0.02，在第120k次迭代时衰减10倍，weight_decay=0.0001,momentum=0.9。

4. 测试

测试阶段，采用的proposals的数量分别为$300$（Faster-RCNN）和$1000$（FPN）。在这些proposals上，使用bbox预测分支配合后处理nms来预测box。然后使用Mask预测分支对最高score的100个检测框进行处理。可以看到这里和训练时Mask预测并行处理的方式不同，这里主要是为了加速推断效率。然后，Mask网络分支对每个ROI预测$K$个掩膜图像，但这里只需要使用其中类别概率最大的那个掩膜图像就可以了，并将这个掩膜图像resize回ROI大小，并以0.5的阈值进行二值化。

5. 实验

5.1 总览

当时的SOTA，Mask R-CNN打败了上界冠军FCIS（其使用了multi-scale训练，水平翻转测试，OHEM等），具体结果如Table1所示：

再来一些可视化结果看看，如Figure5所示。

5.2 消融实验

Table2展示了Mask-RCNN的消融实验，(a)显示网络越深，效果越好。并且FPN效果要好一些。而(b)显示sigmoid要比softmax效果好一些。(c)和(d)显示ROIAligin效果有提升，特别是AP75提升最明显，说明对精度提升很有用。(e)显示mask banch采用全卷积网络效果较好（因为全卷积网络没有破坏空间关系）。

5.3 目标检测结果对比

从Table3可以看出，在预测的时候即使不使用Mask分支，结果精度也是很高的。可以看到ROIAlign直接使用到Faster-RCNN上相对于ROI Pooling提高了0.9个点，但比Mask-RCNN低0.9个点。作者将其归结为多任务训练的提升，由于加入了mask分支，带来的loss改变，间接影响了主干网络的效果。

5.4 关键点检测

和Mask-RCNN相比，关键点检测就是将Mask分支变成heatmap回归分支，需要注意的是最后的输出是$m\times m$形式的softmax, 不再是sigmoid，论文提到这有利于单独一个点的检测，并且最后的Mask分辨率是$56\times 56$，不再是$28\times 28$。

6. 项目文档翻译

我要解析的Mask RCNN就是官方提供的代码，使用Keras框架实现的，地址为：

https://github.com/matterport/Mask_RCNN

下面先对项目的README.md进行一个翻译。

---

用于目标检测和语义分割的Mask RCNN

这是Mask RCNN使用Python3，Keras，TensorFlow的实现。该模型为图像中的每个实例物体生成边界框和掩膜。它基于特征金字塔网络（FPN）和ResNet101骨干网络。

工程包括：

• 基于FPN和ResNet101实现的Mask RCNN源码。
• 在MSCOCO数据集上的训练代码。
• 在MSCOCO数据集上的预训练模型。
• 可以可视化每一步检测流程的jupter文件。
• 多GPU训练的并行模型类。
• 在MSCOCO数据集上计算评价指标（AP）。
• 训练你自己的数据集的例子。

入门

下面三个脚本是模型主体文件。

• demo.ipynb 是最简单的开始。它展示了一个使用在MS-COCO上预先训练的模型分割自己图像中目标的例子。它包括对任意图像进行目标检测和实例分割的代码。
• train_shapes.ipynb 演示如何在自己的数据集上训练Mask R-CNN。这个文件介绍了一个玩具数据集（Shapes）来演示新数据集的训练。
• (models.py, utils.py, configs.py)：这些文件包含Mask RCNN的主要实现。

下面三个脚本是观察理解模型用到。

• inspect_data.ipynb 这个笔记本可视化了准备训练数据的不同预处理步骤。
• inspect_model.ipynb 这个笔记本深入介绍了检测和分割目标所执行的步骤。 它提供了管道中每个步骤的可视化。
• inspect_weights.ipynb 这个笔记本检查经过训练的模型的权重，并可视化查找是否有异常。

逐步检测

为了帮助调试和理解模型，这里有3个笔记本（inspect_data.ipynb，inspect_model.ipynb，inspect_weights.ipynb）提供了很多可视化效果，并允许逐步运行模型以检查每个点的输出。 这里有一些例子：

1. Anchor排序和过滤

可视化RPN网络中的每一个步骤并且展示正负Anchor以及精炼后的Anchor。

2. 候选框精炼

这是第二阶段最终检测框（虚线）的示例并对其进行了精炼（实线）。

3. 产生掩膜

生成的掩膜示例。 然后将它们缩放并放置在正确位置的图像上。

4. 层激活图

通常，检查不同层的激活以查找故障迹象（全零或随机噪声）通常很有用。

5. 权重直方图

另一个有用的调试工具是检查权重直方图。 这些包含在inspect_weights.ipynb笔记本中。

6. Logging to TensorBoard

TensorBoard是另一个出色的调试和可视化工具。 该模型配置为在每个epoch结束时记录损失并保存权重。

7. 将不同的片段组合成最终结果

在MS COCO上训练

我们提供了MS COCO训数据集的预训练模型让训练更加简单。你可以使用这些权重作为起点去训练你自己的网络变体。训练和评价代码在samples/coco/coco.py里面。您可以在Jupyter笔记本中导入此模块（请参阅提供的笔记本例子），也可以直接从命令行运行它：

# Train a new model starting from pre-trained COCO weights
python3 samples/coco/coco.py train --dataset=/path/to/coco/ --model=coco# Train a new model starting from ImageNet weights
python3 samples/coco/coco.py train --dataset=/path/to/coco/ --model=imagenet# Continue training a model that you had trained earlier
python3 samples/coco/coco.py train --dataset=/path/to/coco/ --model=/path/to/weights.h5# Continue training the last model you trained. This will find
# the last trained weights in the model directory.
python3 samples/coco/coco.py train --dataset=/path/to/coco/ --model=last

你可以执行COCO的评价代码：

# Run COCO evaluation on the last trained model
python3 samples/coco/coco.py evaluate --dataset=/path/to/coco/ --model=last

训练设置，学习率和其他超参数都应该在samples/coco/coco.py中设置。

训练你自己的数据集

阅读这个例子作为开始：https://engineering.matterport.com/splash-of-color-instance-segmentation-with-mask-r-cnn-and-tensorflow-7c761e238b46?gi=468916310fd5 。它涵盖了从标注图像到训练再到在一个示例应用程序中使用结果的过程。

总之，要在自己的数据集上训练模型，你需要扩展两个类：

Config这个类包含了默认配置. 继承这个类并修改你想修改的信息。.
Dataset 这个类似提供了处理任意数据集的一致方式。 它允许你使用新的数据集进行训练，而无需更改模型的代码。 它还支持同时加载多个数据集，如果要检测的目标不是在一个数据集中都可用，则此功能非常有用 。

查看samples/shapes/train_shapes.ipynb, samples/coco/coco.py, samples/balloon/balloon.py, 和samples/nucleus/nucleus.py中的例子。

和官方论文不一样的地方

这个实现在很大程度上遵循了Mask-RCNN的论文，但是在一些情况下，我们偏向于代码的简单性和泛化。下面是我们意识到的一些差异。如果你遇到其他分歧，请务必通知我们。下面的px代表像素。

• 图像大小重调。 为了支持每个批次训练多张图像，我们将所有图像调整为相同大小。例如，对于MS COCO调整为$1024\times 1024$。我们保留长宽比，所以如果图像不是正方形，我们用零填充它。在论文中，调整尺寸时，最小边为800px，最大边为1000px。
• 边界框。有些数据集提供边界框，有些只提供掩码。为了支持对多个数据集的训练，我们选择忽略数据集附带的边界框，而是动态生成它们。我们选取封装遮罩所有像素的最小框作为边界框。这简化了实现，也使应用图像增强变得容易，否则将更难应用于边界框，例如图像旋转。

为了验证这种方法，我们将计算出的边界框与COCO数据集提供的边界框进行了比较。我们发现约2%的边界框相差1px或更多，约0.05%的边界框相差5px或更多，只有0.01%的边界框相差10px或更多。

• 学习率。本文使用的学习率为0.02，但我们发现学习率太高，往往会导致权重爆炸，特别是在使用小批量时。这可能与Caffe和TensorFlow计算梯度的方式（批次和GPU的总和与平均值）之间的差异有关。或者，也许官方模型使用梯度剪裁（clip）来避免这个问题。我们使用了梯度剪裁，但不要设置得太过火。我们发现学习率越小，收敛速度越快，所以我们就这样做。

引用

使用此bibtex引用此代码库：

@misc{matterport_maskrcnn_2017,title={Mask R-CNN for object detection and instance segmentation on Keras and TensorFlow},author={Waleed Abdulla},year={2017},publisher={Github},journal={GitHub repository},howpublished={\url{https://github.com/matterport/Mask_RCNN}},
}

贡献

欢迎对此代码库做出贡献。你可以做出贡献的例子为：

• 速度提升。比如用TensorFlow或Cython重新编写一些Python代码。
• 在其它数据集上训练。
• 准确率提升。
• 可视化例子。

依赖

Python 3.4, TensorFlow 1.3, Keras 2.0.8以及在requirements.txt中列出的其它包。

MS COCO依赖

为了在MS COCO数据集山训练和测试，你需要：

• pycocotools (安装命令在下面)。
• MS COCO数据集下载：http://cocodataset.org/#home
• 下载 5K minival 和 35K validation-minus-minival数据子集。更多细节请看Faster RCNN的实现。（https://github.com/rbgirshick/py-faster-rcnn/blob/master/data/README.md）

如果你使用Docker，你可以拉取这个Docker容器：https://hub.docker.com/r/waleedka/modern-deep-learning/。

安装

1. 克隆这个工程
2. 安装依赖

pip3 install -r requirements.txt

3. 在工程根目录下执行：

python3 setup.py install

4. 从https://github.com/matterport/Mask_RCNN/releases下载COCO的预训练模型（mask_rcnn_coco.h5）。
5. (可选) 要在MS COCO上进行训练和测试请从下面的工程之一中安装pycocotools。它们是Python3和Windows（官方repo似乎不再活跃）的原始pycocotools的分支。

• Linux：https://github.com/waleedka/coco
• Windows：https://github.com/philferriere/cocoapi 。你必须在你的路径中有Visual C++ 2015编译工具。

使用这个模型的工程

如果您将此模型扩展到其他数据集或构建使用它的项目，我们将很高兴收到您的来信。

4K Video Demo by Karol Majek。(https://www.youtube.com/watch?v=OOT3UIXZztE).