Reference: Y. Jia, Caffe Talk
其實，歸根結(jié)底，Scalabe 是因為硬件總是有限的。過去幾年，人工智能網(wǎng)絡已經(jīng)從 AlexNet、VGG-19 的淺層網(wǎng)絡的迅速成長成超深層的 ResNet，以及多個網(wǎng)絡相輔相成的生成對抗式網(wǎng)絡（Generative Adversarial Network）。雖然，以 NVdia 為首的硬件公司也在不斷突破，但是其增長速度恐怕無法與目前的神經(jīng)網(wǎng)絡相媲美。
因此，對于每一個深度學習神經(jīng)網(wǎng)絡的實現(xiàn)，在每一個層次實現(xiàn)時，除了計算的高效性外，將大規(guī)模網(wǎng)絡裂解（partition）并且映射（mapping）到有限的硬件上就成為了一個踏踏實實的問題。表現(xiàn)在接口設計、數(shù)據(jù)結(jié)構(gòu)的選擇等各個層次。而只有那些可以規(guī)模化擴展的人工智能硬件，才能在算法日新月異的今天立于不敗之地。
Sensable 傳感，也要智能
如果你還覺得傳感器和人工智能計算是兩個完全獨立的模塊的，恭喜你，你已經(jīng)被時代拋棄了。大會上，北京文安與 Bosch 都秀出了新一代的圖像傳感/VR 傳感器。毫無例外的，人工智能算法已經(jīng)與傳感器擁抱，同時出現(xiàn)在前端。
Reference: R. Liu, Bosch Sensor Talk
傳感器，作為實時推理（Real-time Inference）的最前端，是模擬信號與數(shù)字化的人工智能算法間的橋梁。他可以是攝像頭，可以是 lidar/radar，可以是音頻，林林總總。當信號越原始，越早地進入神經(jīng)網(wǎng)絡處理，他就越容易帶來意想不到的效果。緊密擁抱傳感器的 AI 算法已經(jīng)在 end-to-end Learning 領(lǐng)域迸發(fā)出了不一樣的火花。未來的人工智能硬件，將不可逆地與傳感器結(jié)合，成為 IoT 時代的大趨勢。