Alphgo在圍棋上戰(zhàn)勝李世石屬于里程碑的時(shí)間,因此,深度學(xué)習(xí)也被炒得很熱,但什么叫深度學(xué)習(xí),為什么是深度,其實(shí)大多不知道,如果解釋成多層神經(jīng)網(wǎng)絡(luò)估計(jì)也沒多少人明白。
即使你是搞建模的,假如沒搞過神經(jīng)網(wǎng)絡(luò),可能也不清楚,甚至你做過神經(jīng)網(wǎng)絡(luò)工程,但如果僅僅是調(diào)用一下算法庫(kù),也可能是一知半解。
當(dāng)然,大數(shù)據(jù)時(shí)代,我們也許會(huì)用就可以了,特別是對(duì)于企業(yè)來講,不用知道其原理。但深度學(xué)習(xí)作為一個(gè)方向性的東西,筆者總是想探究一些其本質(zhì)的東西,特別是希望能理解深度學(xué)習(xí)理解世界的方式,也許其對(duì)于成長(zhǎng)有所幫助。
雖然以前網(wǎng)上找過一些深度學(xué)習(xí)的資料,但一直啟發(fā)有限,直到最近讀到臺(tái)灣大學(xué)李宏毅教授的一個(gè)深度學(xué)習(xí)的課件,還有很多知乎大神的解釋,才有更多的領(lǐng)悟,今天,就順著大師的脈絡(luò),以淺顯的方式去認(rèn)知深度學(xué)習(xí)。
這是篇普及基本知識(shí)的文章,有很多的圖片輔助理解,筆者也盡量簡(jiǎn)單的描述,沒有晦澀的公式,權(quán)當(dāng)作為自己的讀書筆記吧。
認(rèn)識(shí)機(jī)器學(xué)習(xí)。
機(jī)器學(xué)習(xí)=尋找一個(gè)合適函數(shù)f,就是這么簡(jiǎn)單,這就是席卷全球的人工智能做的事情,下面一張圖已經(jīng)道盡了一切。

但尋找f這個(gè)函數(shù)是如此困難,比如下面我要用圖像識(shí)別一只貓或狗:
我要做什么呢?
首先,尋找一堆的函數(shù),比如f1,f2……。
其次,找到一堆訓(xùn)練用的貓狗圖片,將圖片輸入到f中,獲得對(duì)應(yīng)的結(jié)果,比如,輸入一只貓,函數(shù)告訴我這是一只貓,輸入一只狗,函數(shù)告訴我是一只狗,否則,就換。
最后,選擇識(shí)別正確的函數(shù)f作為結(jié)果,也就是我們通常所說的算法,或稱模型,或稱Alphgo,或者,這個(gè)f,就是所謂的人工智能。
下圖示例了該過程:

再次,要用前面正確的f,輸入一些新的貓的圖片,看看這個(gè)f(即模型)靠不靠譜,這個(gè)過程也叫測(cè)試過程,即下圖所示的Testing,而上圖的過程,叫訓(xùn)練過程Training,大家聽到阿爾法狗每天都要自我對(duì)局幾千萬盤,這個(gè)過程就叫Training。

這個(gè)是機(jī)器學(xué)習(xí)的基礎(chǔ)知識(shí),理解深度學(xué)習(xí),這個(gè)是出發(fā)點(diǎn),我想大多人都懂了,不懂,肯定是沒認(rèn)真看圖解字。
人的大腦。
人的大腦有幾十億個(gè)被稱作neuron(神經(jīng)細(xì)胞、神經(jīng)元)的微小細(xì)胞,這些神經(jīng)元相互之間通過無數(shù)連接線組成,如果一個(gè)神經(jīng)細(xì)胞在一段時(shí)間內(nèi)受到高頻率的刺激,則它和輸入信號(hào)的神經(jīng)細(xì)胞之間的連接強(qiáng)度就會(huì)按某種過程改變,使得該神經(jīng)細(xì)胞下一次受到激勵(lì)時(shí)更容易興奮。

這個(gè)就是神經(jīng)網(wǎng)絡(luò),人的認(rèn)知模型,那么如何模擬神經(jīng)網(wǎng)路,也就是如何模擬人的認(rèn)知過程,也叫人工神經(jīng)網(wǎng)絡(luò)。
那么一個(gè)神經(jīng)元neuron如何模擬?
下圖是一個(gè)人工neuron的示意:

a指各種輸入信息,比如圖像信息的輸入,w指權(quán)重,就是神經(jīng)連接線被刺激后的大小,b指偏移量,最后,這些信息通過加權(quán)形成輸入的z,z作為外部刺激的一種表達(dá)形式,統(tǒng)一通過一個(gè)激活函數(shù)σ的轉(zhuǎn)換,給定最終的輸出結(jié)果a。
這就是一個(gè)人工模擬的神經(jīng)元過程,讀懂它,再給你一個(gè)案例。

神經(jīng)網(wǎng)絡(luò)有太多的neuron,因此,人工神經(jīng)是有很多人工neuron相互連接構(gòu)成的,每一個(gè)neuron有不同的權(quán)重,偏移或者激活函數(shù),如下圖:
