這樣：
每個(gè)神經(jīng)元都收到上一層神經(jīng)元傳來(lái)的信號(hào)
每個(gè)信號(hào)都乘上了一個(gè)權(quán)重
加權(quán)后的輸入值加總起來(lái)，通過(guò)一個(gè)限制的功能，將輸出值的范圍縮小為一個(gè)固定范圍。
通過(guò)限制器后的輸出值繼而向下一層的所有神經(jīng)元傳播
人工神經(jīng)網(wǎng)絡(luò)最常見(jiàn)的學(xué)習(xí)算法叫做反向傳播(Back Propagation，簡(jiǎn)稱BP)，即「誤差反向傳播」。為了利用神經(jīng)網(wǎng)絡(luò)，我們給第一層施加輸入值，讓信號(hào)通過(guò)網(wǎng)絡(luò)傳播，讀取輸出。一個(gè)BP網(wǎng)絡(luò)通過(guò)例子學(xué)習(xí)，也就是說(shuō)，我們必須提供一套學(xué)習(xí)模式，由一些輸入值和已知的正確輸出值組成。這樣，我們將這些輸入-輸出的例子展示給網(wǎng)絡(luò)，告訴它哪些行為是我們期望得到的。BP算法通過(guò)網(wǎng)絡(luò)反向傳播誤差值，調(diào)整權(quán)重值，并以此讓網(wǎng)絡(luò)適應(yīng)。這些神經(jīng)元的每個(gè)鏈接都有著獨(dú)一無(wú)二的權(quán)重值。網(wǎng)絡(luò)的「智能」就隱藏于權(quán)重的值中。隨著每個(gè)誤差迭代返回，權(quán)重以此得到調(diào)整。每個(gè)案例中整個(gè)過(guò)程都在重復(fù)。因此，為了檢測(cè)目標(biāo)函數(shù)，程序員將會(huì)通過(guò)迅速發(fā)送許多包含目標(biāo)的數(shù)字化數(shù)據(jù)版本(例如圖片)來(lái)訓(xùn)練網(wǎng)絡(luò)。如果網(wǎng)絡(luò)沒(méi)有準(zhǔn)確識(shí)別一個(gè)具體的模式，權(quán)重就會(huì)被調(diào)整。訓(xùn)練的最終目的是去讓網(wǎng)絡(luò)能始終如一地識(shí)別我們能夠識(shí)別的模式(例如貓咪)。
深度學(xué)習(xí)如何幫助解決直覺(jué)問(wèn)題?
深度學(xué)習(xí)的總體目標(biāo)還是要去解決一個(gè)「直覺(jué)」問(wèn)題，也就是以高維度和無(wú)規(guī)則為特征的問(wèn)題。前文介紹的機(jī)制展示了一個(gè)基于有限神經(jīng)元模型的監(jiān)督式學(xué)習(xí)算法——但是我們需要理解更多。
深度學(xué)習(xí)讓計(jì)算機(jī)解決直覺(jué)問(wèn)題，這是因?yàn)椋?/p>
有了深度學(xué)習(xí)，計(jì)算機(jī)可以不僅從經(jīng)驗(yàn)中學(xué)習(xí)，還可以根據(jù)概念的層級(jí)結(jié)構(gòu)來(lái)理解世界——這個(gè)層級(jí)結(jié)構(gòu)中，每個(gè)概念都由更簡(jiǎn)單的概念來(lái)定義。
概念的層級(jí)結(jié)構(gòu)是通過(guò)解決「表示問(wèn)題」而「自下而上」地構(gòu)建，并沒(méi)有提前定義好的規(guī)則。
這與孩子們學(xué)習(xí)「狗狗是什么」的方式相似，通過(guò)理解概念中的一個(gè)組成部分，如行為(例如狗吠)，腦袋的形狀，尾巴，皮毛等等，繼而將這些概念組成為一個(gè)更大的概念，也就是狗本身。
(知識(shí))表征問(wèn)題在計(jì)算機(jī)科學(xué)中是一個(gè)重復(fù)出現(xiàn)的主題。
知識(shí)表征與心理學(xué)中的理論相結(jié)合，后者主要研究理解人們?nèi)绾谓鉀Q問(wèn)題，以及表征知識(shí)。這個(gè)想法是：如果像人類一樣，計(jì)算機(jī)可以從經(jīng)驗(yàn)中整合知識(shí)，它就不再需要人類操作者正式指定解決問(wèn)題所需的所有知識(shí)。
對(duì)于計(jì)算機(jī)來(lái)說(shuō)，表征的選擇對(duì)機(jī)器學(xué)習(xí)算法的成果有著巨大的影響。例如，基于音調(diào)的高低可以知道講話者是一個(gè)男人、女人還是孩子。然而，對(duì)于很多應(yīng)用來(lái)說(shuō)，知道哪些特征表示著準(zhǔn)確的信息并不容易。例如，在檢測(cè)汽車圖像中，輪子應(yīng)該是圓形的——但是實(shí)際上輪子的照片有著很多不同的部分(例如金屬部分)。因此，表征學(xué)習(xí)的概念就是要同時(shí)找到映射與表征。
如果我們能夠自動(dòng)(即沒(méi)有人類的干預(yù))找到知識(shí)的表征和它們的映射，我們就有了一個(gè)靈活的設(shè)計(jì)去解決直覺(jué)問(wèn)題。我們可以適應(yīng)新的任務(wù)，甚至可以不需觀察就可以產(chǎn)生新見(jiàn)解。舉個(gè)例子，基于音調(diào)的高低我們可以知道其主人的口音，從而了解種族。這種機(jī)制是自我學(xué)習(xí)。深度學(xué)習(xí)最適用于數(shù)據(jù)龐大、參數(shù)之間關(guān)系復(fù)雜的環(huán)境。訓(xùn)練一個(gè)神經(jīng)網(wǎng)絡(luò)涉及重復(fù)地向它展示：「給定一個(gè)輸入，就會(huì)有一個(gè)正確的輸出」。如果這個(gè)過(guò)程被進(jìn)行了足夠多次，這個(gè)網(wǎng)絡(luò)就擁有了有效的訓(xùn)練，它就能模仿出你所模擬的方程。它會(huì)忽視與解無(wú)關(guān)的輸入。但反過(guò)來(lái)，如果你沒(méi)有給出關(guān)鍵性的輸入，它就無(wú)法給出一個(gè)正確的解。這種模型可以應(yīng)用于很多情況，如以下所給出的簡(jiǎn)單案例。
多層學(xué)習(xí)的案例
深度學(xué)習(xí)涉及到通過(guò)神經(jīng)層學(xué)習(xí)，讓計(jì)算機(jī)能夠基于簡(jiǎn)單概念構(gòu)建起復(fù)雜概念的層級(jí)結(jié)構(gòu)。這種方法對(duì)很難表達(dá)的主觀與直覺(jué)問(wèn)題很有用。
來(lái)看看圖像數(shù)據(jù)吧。計(jì)算機(jī)無(wú)法理解像素集合的意義。從一組像素中映射出復(fù)雜的目標(biāo)函數(shù)，是非常困難的事。