好了,深度學(xué)習(xí)原理部分基本講完了,當(dāng)然,這僅僅是術(shù)的追求,筆者也只是知道皮毛,那這類深度學(xué)習(xí)對(duì)于我們理解這個(gè)世界到底有什么幫助?
首先,深度學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)這么一層層構(gòu)建到底在干什么?
從物理理解的角度講,通過現(xiàn)有的不同物質(zhì)的組合形成新物質(zhì),給你舉個(gè)例子,碳和氧原子通過組合,可以形成三個(gè)新物質(zhì),見下圖:

形成的新物質(zhì)之間又可以相互組合,形成更為復(fù)雜的新物質(zhì),如此循環(huán),從而形成我們這個(gè)世界,這是其物理意義。
從數(shù)學(xué)的視角,其實(shí)就是在做一層層的空間變換,讓原來無法區(qū)隔的空間變成可以區(qū)分,你要理解,這個(gè)世界絕對(duì)不是線性的。
空間變換有五種形式,回憶一下前面講的。

其中:
aw:做的空間變換是升維/降維、放大/縮小及旋轉(zhuǎn);
b:做的空間變換是平移;
σ:實(shí)現(xiàn)彎曲
比如一維空間,以分類為例,當(dāng)要分類正數(shù)、負(fù)數(shù)、零,三類的時(shí)候,一維空間的直線可以找到兩個(gè)超平面(比當(dāng)前空間低一維的子空間。當(dāng)前空間是直線的話,超平面就是點(diǎn))分割這三類。但面對(duì)像分類奇數(shù)和偶數(shù)無法找到可以區(qū)分它們的點(diǎn)的時(shí)候,我們借助 x % 2(取余)的轉(zhuǎn)變,把x變換到另一個(gè)空間下來比較,從而分割。

對(duì)于二維空間,平面的四個(gè)象限也是線性可分。但下圖的紅藍(lán)兩條線就無法找到一超平面去分割:

神經(jīng)網(wǎng)絡(luò)的解決方法依舊是轉(zhuǎn)換到另外一個(gè)空間下,用的是所說的5種空間變換操作。比如下圖就是經(jīng)過放大、平移、旋轉(zhuǎn)、扭曲原二維空間后,在三維空間下就可以成功找到一個(gè)超平面分割紅藍(lán)兩線:

上面是一層神經(jīng)網(wǎng)絡(luò)可以做到的,設(shè)想網(wǎng)絡(luò)擁有很多層時(shí),對(duì)原始輸入空間的“扭曲力”會(huì)大幅增加,如下圖,最終我們可以輕松找到一個(gè)超平面分割空間。

所謂監(jiān)督學(xué)習(xí)就是給予神經(jīng)網(wǎng)絡(luò)網(wǎng)絡(luò)大量的訓(xùn)練例子,讓網(wǎng)絡(luò)從訓(xùn)練例子中學(xué)會(huì)如何變換空間。每一層的權(quán)重W就控制著如何變換空間,我們最終需要的也就是訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)的所有層的權(quán)重矩陣。
這就是深度學(xué)習(xí)的變換空間本質(zhì)。
從物質(zhì)組成的角度講,前面由碳氧原子通過不同組合形成若干分子的例子。從分子層面繼續(xù)迭代這種組合思想,可以形成DNA,細(xì)胞,組織,器官,最終可以形成一個(gè)完整的人。繼續(xù)迭代還會(huì)有家庭,公司,國(guó)家等。這種現(xiàn)象在身邊隨處可見。并且原子的內(nèi)部結(jié)構(gòu)與太陽系又驚人的相似。不同層級(jí)之間都是以類似的幾種規(guī)則再不斷形成新物質(zhì)。你也可能聽過分形學(xué)這三個(gè)字。可通過觀看從1米到150億光年來感受自然界這種層級(jí)現(xiàn)象的普遍性。

圖像識(shí)別中的人臉識(shí)別,只是一種應(yīng)用,圖像由像素組成,像素可以形成菱角,棱角可以形成五官,五官可以形成不同的人臉,每一層代表不同的物質(zhì)層面 (如分子層)。而每層的W存儲(chǔ)著如何組合上一層的物質(zhì)從而形成新物質(zhì)。