Asymmetric Non-local Neural Networks for Semantic Segmentation
PDF: https://arxiv.org/pdf/1908.07678.pdf
PyTorch代码: https://github.com/shanglianlm0525/PyTorch-Networks

1 概述

提出了一种非对称non-local网络结果来代替传统的non-local模型的作用，但是其计算复杂度与内存占用会大大减少。

2 Asymmetric Non-local Neural Network

2-1 Asymmetric Pyramid Non-local Block (APNB)

APNB将金字塔采样利用到non-local块中，在不牺牲性能的情况下大大降低了计算量和内存消耗，

2-2 Asymmetric Fusion Non-local Block (AFNB)

AFNB由APNB改造而来，在充分考虑到远程依赖关系的情况下融合了不同级别的特征。

3 Ablation

1. 跟Baseline对比，APNB比普通的NB（Non-local Block）好，说明APNB在大大降低计算量和内存占用的同时，还提高了性能，这应该是与SPP的全局信息表示能力有关。而在高级特征低级特征融合方面，AFNB较普通的融合FNB更胜一筹，最后同时使用APNB和AFNB效果更好。
   
2. SPP明显优于普通的random、max、average方法，且在SPP的池化方法中，pyramid average效果最好，而在池化尺寸的选择上，{1，4，8，12} 效果最好，但是考虑到计算量，还是选择 {1，3，6，8} 作为默认值。
   

PyTorch代码: