一. localization accuracy
更准确的bounding box,提高IOU
二. 目标检测的发展
1. 传统的目标检测(滑动窗口的框架):
(1).滑动窗口
(2).提取特征(SIFT,HOG,LBP)
(3).分类器(SVM)
2. 基于深度学习的目标检测:
具体发展
(1).R-CNN
Motivation:目标检测进展缓慢,CNN在图片分类中取得重大成功
Contribution:应用CNN将检测问题转化成分类问题
(2).SPPNet
Motivation:CNN要求输入图片尺寸固定
Contribution:引入SPP层解除固定尺寸约束
(3).Fast R-CNN
Motivation:候选框的重复计算问题
Contribution: 加入RoI池化层、将BB回归融入网络
(4).faster RCNN
Motivation: Selective Search作为一个独立的操作,速度依然不够快
Contribution:抛弃了Selective Search,引入了RPN网络,使得区域提名、分类、回归一起共用卷积特征,从而得到了进一步的加速。
(5).YOLO
Motivation:先前提出的算法都是将检测问题转化为分类解决
Contribution:将检测回归到回归方法,提高实时性能
(6).SSD
Motivation:yolo S×S的网格就是一个比较启发式的策略,难以检测小目标
Contribution:借鉴了Faster R-CNN中的Anchor机制,使用了多尺度特征金字塔
三.目标检测的几个名词
(1). MAP(mean average precision)
每一个类别都可以根据recall和precision绘制一条曲线,那么AP就是该曲线下的面积,而mAP是多个类别AP的平均值,这个值介于0到1之间,且越大越好。这个指标是目标检测算法最为重要的一个。
(2).IOU
绿色框是人工标注的groundtruth,红色框是目标检测算法最终给出的结果,显然绿色框对于飞机这个物体检测的更加准确(机翼机尾都全部包含在绿色框中),IOU正是表达这种bounding box和groundtruth的差异的指标。算法产生的bbox VS 人工标注的数据
IOU定义了两个bounding box的重叠度,可以说,当算法给出的框和人工标注的框差异很小时,或者说重叠度很大时,可以说算法产生的boundingbox就很准确。
矩形框A、B的一个重合度IOU计算公式为:
IOU=(A∩B)/(A∪B)
(3). NMS(非极大值抑制)
目标检测算法一般会给出目标很多的粗略结果,对一个目标成百上千的粗略结果都进行调整肯定是不可行的。那么我们就需要对这些粗略结果先进行一个大体的挑选。挑选出其中最具代表性的结果。再对这些挑选后的结果进行调整,这样可以加快算法效率。
消除多余的框,找到最佳的bbox
根据这些框的分类器类别分类概率做排序: A<B<C<D<E<F
(1)从最大概率矩形框F开始,分别判断A~E与F的重叠度IOU是否大于某个设定的阈值;
(2)假设B、D与F的重叠度超过阈值,那么就扔掉B、D;并标记第一个矩形框F,是我们保留下来的。
(3)从剩下的矩形框A、C、E中,选择概率最大的E,然后判断E与A、C的重叠度,重叠度大于一定的阈值,那么就扔掉;并标记E是我们保留下来的第二个矩形框。
就这样一直重复,找到所有被保留下来的矩形框
(4) 边界框回归(Bounding-box regression )
由前面介绍的IOU指标可知,这里算法给出的红色框可以认为是检测失败的,因为它和绿色的groundtruth的 IOU值小于了0.5,也就是说重叠度不够。那么我们就需要对这个红色框进行微调。使得经过微调后的窗口跟Ground Truth 更接近 。
红色的框 P 代表原始的Proposal
**绿色的框 G **代表目标的 Ground Truth
目标是:寻找一种关系使得输入原始的窗口 P 经过映射得到一个跟真实窗口 G 更接近的回归窗口 G~
G~≈G
四. 从cvpr2016看目标检测的发展趋势
(a)检测精度
如何提高检测精度的指标mAP?
代表性的工作是ResNet、ION和HyperNet
(b)识别效率
如何提高检测速度?
YOLO:这个工作在识别效率方面的优势很明显,可以做到每秒钟45帧图像,处理视频是完全没有问题的
(c)定位精度
如何产生更准确的bounding box? 如何逐步提高评价参数IOU?(Pascal VOC中,这个值为0.5)
LocNet:抛弃boundingbox回归,利用概率模型(本文)
从单纯的一律追求检测精度,到想方法加快检测结果,到最后追求更加准确的结果。侧面反映了目标检测研究的不断进步*。
五. LocNet: Improving Localization Accuracy for Object Detection
1. background
- localization accuracy 少人问津
- PASCAL VOC IOU=0.5 (object has been successfully detected)
- Real life higher localization accuracy (e.g. IoU> 0.7) is normally required
- COCO detection challenge 把IOU值也作为了最终的评价指标(MAP+IOU)
- 提高目标检测的IOU(而不仅是MAP)将会成为未来目标检测的主要挑战。
- 传统的bbox回归:尝试直接通过回归的方式直接得到bbox的坐标,很难得到很准确的bbox。
2. Contributions
- 可以很方便的和现在最先进的目标检测系统结合
- 提出了两种基于行列的概率模型解决定位准确率,而不是回归的方式,并与回归方式进行了
对比 - 对传统方法和最先进的方法不同iou下的map都有所提高
- 未来可以完全取代bbox回归的方法
3.两种概率模型
黄色框是检测系统给出的,红色框是由黄色框扩大常数倍得到的search region,LOCNet会在这个搜索区域建立概率模型得到最终的定位区域蓝色框
-
边界概率:
计算该行或该列是目标边界的概率(所以,行列两个概率图各选两个极大值,即可得到目标边界) -
in-out概率:
计算目标在该行或该列的概率(所以,行列两个概率图分别选择最高并且最平滑的区域,即可得到目标的区域)
4. detection pipeline
输入的候选bounding box(使用selective search或者sliding windows获得),通过迭代的方法,获得更精确的box
两个过程:
- Recognition model:
- Localization model:
为降低算法复杂度,会参与一个后处理NMS操作。
5. Model predictions
输入的box,把它扩大一个因子的倍数,获取一个更大的区域R,区域R划分成M*M的格子
- In-Out probabilities
- **Border probabilities **
6. Network Architecture
(1)对于输入的box,把它扩大一个因子的倍数,获取一个更大的区域R,把R投影到feature map中
(2)经过一个类似于ROI pooling的层,输出固定大小的map
(3)经过几个卷积层和ReLU激活之后,出现两个分支,分别对应两个向量。然后经过max pooling得到
row、column对应的向量
(4)经过FC层之后,使用sigmoid函数输出In –Out概率或者边界概率
7.Loss function
每行或列有两种可能(是或者不是),伯努利分布的模型,log对数损失函数假设样本服从伯努
利分布(0-1分布)
8.results
结果表明,与不同的检测系统结合,基于边界概率的模型在不同的IOU下都提高了mAP值,并且效果优于bbox回归。
我的另一篇关于Object Detection的文章