Day46:消融實驗(ablation experiment)

最近在讀論文的時候,在論文快要結束的時候,總是會有這個消融實驗,當時的感覺就是再做了個別的實驗,但是,也沒有細想,但是,仔細研究下還是有點學問的。

Day46:消融實驗(ablation experiment)

消融”的原始含義是手術切除身體組織。

ablation解釋: 透過機械方法切除身體組織,如手術,從身體中去除,尤指器官、異常生長或有害物質。

消融實驗在CV中的作用

” 術語“消融研究”通常用於神經網路,尤其是相對複雜的神經網路,如R-CNN。我們的想法是透過刪除部分網路並研究網路的效能來了解網路。“ - Robert Long

有點類似於控制變數法,直白點說就是:比如說這篇文章有3個亮點,這一章就負責告訴你我只加a結果如何,只加b結果如何,a和b都加了又如何

例子

舉個例子:Girshick及其同事描述了一個由三個“模組”組成的物體檢測系統:第一個使用選擇性搜尋演算法提出影象區域,在該區域內搜尋物體。進入一個大的卷積神經網路(有5個卷積層和2個完全連線的層),進行特徵提取,然後進入一組支援向量機進行分類。為了更好地理解該系統,作者進行了一項消融研究,其中系統的不同部分被移除 - 例如,移除CNN的一個或兩個完全連線的層導致效能損失驚人地少。

這使作者得出結論:

CNN的大部分代表性力量來自其卷積層,而不是來自更大的密集連線層。

參考連結:https://www。zhihu。com/question/291655038/answer/683038545