论文笔记 OHEM: Training Region-based Object Detectors with Online Hard Example Mining
CVPR2016的文章,CMU與rbg大神的合作。原諒我一直沒有對這篇文章做一個筆記~~
文章提出了一種通過online hard example mining(OHEM)算法訓練基于區域的卷積檢測算子的高效目標檢測算法,能夠對簡單樣本和一些小數量樣本進行抑制,使得訓練過程更加高效。該方法利用顯著的bootstrapping技術(SVM中被普遍利用),對SGD算法進行一定的修改,使得原有的region-based ConvNets的啟發式學習和多參數可以被移除,并得到較準確穩定的檢測結果。在PASCAL VOC2007和2012中的mAP分別為:78.9%,76.3%。https://github.com/abhi2610/ohem
Hard example mining:
主要有2種參見Hard example mining算法,優化SVM時候的算法和非SVM時的利用。
在優化SVM中使用Hard example mining時,訓練算法主要維持訓練SVM和在工作集上收斂的平衡迭代過程,同時在更新過程中去除一些工作集中樣本并添加其他特殊的標準。這里的標準即去掉一些很容易區分的樣本類,并添加一些用現有的模型不能判斷的樣本類,進行新的訓練。工作集為整個訓練集中的一小部分數據。
非SVM中使用時,該Hard example mining算法開始于正樣本數據集和隨機的負樣本數據集,機器學習模型在這些數據集中進行訓練使其達到該數據集上收斂,并將其應用到其他未訓練的負樣本集中,將判斷錯誤的負樣本數據(false positives)加入訓練集,重新對模型進行訓練。這種過程通常只迭代一次,并不獲得大量的再訓練收斂過程。
網絡結構框架:
OHEM算法基于Fast R-CNN算法進行改進,作者認為Fast R-CNN算法中創造mini-batch用來進行SGD算法,并不具有高效和最優的狀態,而OHEM可以取得lower training loss,和higher mAP。對比下圖兩種算法Fast R-CNN和OHEM結構:
對比可以發現,文章提出的OHEM算法里,對于給定圖像,經過selective search RoIs,同樣計算出卷積特征圖。但是在綠色部分的(a)中,一個只讀的RoI網絡對特征圖和所有RoI進行前向傳播,然后Hard RoI module利用這些RoI的loss選擇B個樣本。在紅色部分(b)中,這些選擇出的樣本(hard examples)進入RoI網絡,進一步進行前向和后向傳播。
實驗結果:
實驗得到了很好的實驗結果,這里僅附mAP結果:
總結
以上是生活随笔為你收集整理的论文笔记 OHEM: Training Region-based Object Detectors with Online Hard Example Mining的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Faster-RCNN训练自己数据集遇到
- 下一篇: Opencv判断是否加载图片的两种方法