(1) 特征提取(Feature Extraction)
特征提取有別于傳統(tǒng)卷積神經網絡，DehazeNet采用“卷積+Maxout [5] ”的結構作為網絡第一層：
并且可以證明，“卷積+Maxout”等價于傳統(tǒng)的手工去霧特征：
當W 1 是反向(Opposite)濾波器,通道的最大等價于通道的最小值，等價于暗通道先驗(DCP);當W 1 是環(huán)形(Round)濾波器, 等價于對比度提取，等價于最大對比度(MC); 當W 1 同時包含反向(Opposite)濾波器和全通(All-pass)濾波器，等價于RGB到HSV顏色空間轉換，等價于顏色衰減先驗(CAP)。
此外，從機器學習角度看，Maxout是一種樣條函數，具有更強的非線性擬合能力，如下圖(d)。
(2) 多尺度映射(Multi-scale Mapping)與局部極值(Local Extremum)
多尺度特征會提高不同分辨率下特征提取的魯棒性。傳統(tǒng)去霧方法中也會采用不同尺度的濾波器(均值、中值、最小值)來增強特征在不同尺度下的魯棒性。 借鑒于GoogLeNet中的inception結構，采用3組不同尺度(3×3，5×5，7×7)的濾波器實現DehazeNet的尺度魯棒性：
局部極值(MAX Pooling)是深度卷積神經網絡的經典操作。局部極值約束了透射率的局部一致性，可以有效抑制透射率的估計噪聲。 此外，局部極值也 對應 于暗通道先驗(DCP)的局部最小值和最大對比度(MC)的局部最大值。
(3) 非線性回歸(Non -linear Regression)
大氣透射率是一個概率(0到1)，不可能無窮大，也不可能無窮小。受到Sigmoid和ReLU激勵函數的啟發(fā)，提出雙邊糾正線性單元(Bilateral Rectified Linear Unit，BReLU)，在雙邊約束的同時，保證局部的線性。
BReLU的非線性回歸對應于傳統(tǒng)去霧方法中的邊緣抑制操作(如DCP和CAP)。雙邊約束引入先驗信息縮小參數搜索空間，使得網絡更加容易訓練;局部線性避免Sigmoid函數梯度不一致帶來的收斂困難。
DehazeNet基于手工特征，又超出傳統(tǒng)方法，從人工到智能。因此，DehazeNet取得了更好的去霧結果，更多的對比實驗和代碼資源：
項目主頁
GitHub代碼
BReLU+Caffe
其他復現 (1) ; (2)
參考文獻
[1] Cai B, Xu X, Jia K, et al. DehazeNet: An End-to-End System for Single Image Haze Removal [J]. IEEE Transactions on Image Processing, 2016, 25(11): 5187-5198.
[2] He K, Sun J, Tang X. Single image haze removal using dark channel prior[J]. IEEE transactions on pattern analysis and machine intelligence, 2011, 33(12): 2341-2353.
[3] Tan R T. Visibility in bad weather from a single image[C]//Computer Vision and Pattern Recognition, 2008. CVPR 2008. IEEE Conference on. IEEE, 2008: 1-8.
[4] Zhu Q, Mai J, Shao L. A fast single image haze removal algorithm using color attenuation prior[J]. IEEE Transactions on Image Processing, 2015, 24(11): 3522-3533.
[5] Goodfellow I J, Warde-Farley D, Mirza M, et al. Maxout networks[J]. ICML (3), 2013, 28: 1319-1327.