1.3 假設(shè)3 – 專門系統(tǒng)提供關(guān)鍵計算問題上的高效解
第三個認識是:神經(jīng)網(wǎng)絡的結(jié)構(gòu)很重要。信息在不同大腦區(qū)域流動的模式似乎有根本性差異的,這表明它們解決不同的計算問題。一些腦區(qū)是高度recurrent的,可能使它們被預定為短期記憶存儲(Wang, 2012)。一些區(qū)域包含能夠在定性不同的激活狀態(tài)之間切換的細胞類型,例如響應于特定神經(jīng)遞質(zhì)的持續(xù)發(fā)射模式與瞬時發(fā)射模式(Hasselmo, 2006)。其他區(qū)域,如丘腦似乎有來自其他區(qū)域的信息流經(jīng)它們,也許允許他們確定信息路由(Sherman, 2005)。像基底神經(jīng)節(jié)的區(qū)域參與強化學習和分離決定的門控(Doya, 1999; Sejnowski and Poizner, 2014)。正如每個程序員所知,專門的算法對于計算問題的有效解決方案很重要,并且大腦可能會很好地利用這種專業(yè)化(Figure1 C)。
這些想法受到機器學習領(lǐng)域的最新進展的啟發(fā),但我們也認為大腦與今天的機器學習技術(shù)有很大的不同。特別是,世界給我們一個相對有限的信息量以讓我們可以用于監(jiān)督學習(Fodor and Crowther, 2002)。有大量的信息可用于無人監(jiān)督的學習,但沒有理由假設(shè)會存在一個通用的無監(jiān)督算法,無論多么強大,將按人們需要知道的順序精確學習人類需要知道的事情。因此,從進化的角度來看,使得無監(jiān)督學習解決“正確”問題的挑戰(zhàn)是找到一系列成本函數(shù),其將根據(jù)規(guī)定的發(fā)展階段確定性地建立電路和行為,使得最終相對少量的信息足以產(chǎn)生正確的行為。例如,一個成長中的鴨子跟隨(Tinbergen, 1965)其父母的行為印記模板,然后使用該模板來生成終級目標,幫助它開發(fā)其他技能,如覓食。
根據(jù)上述內(nèi)容和其他研究(Minsky, 1977; Ullman et al., 2012),我們認為(suggest)許多大腦的成本函數(shù)產(chǎn)生于這樣的內(nèi)部自舉過程。事實上,我們提出生物發(fā)展和強化學習實際上可以程序化實現(xiàn)生成一系列成本函數(shù),精確預測大腦內(nèi)部子系統(tǒng)以及整個生物體面臨的未來需求。這種類型的發(fā)展程序化地引導生成多樣化和復雜的成本函數(shù)的內(nèi)部基礎(chǔ)設(shè)施,同時簡化大腦的內(nèi)部過程所面臨的學習問題。除了諸如家族印記的簡單任務之外,這種類型的引導可以擴展到更高的認知,例如,內(nèi)部產(chǎn)生的成本函數(shù)可以訓練發(fā)育中的大腦正確地訪問其存儲器或者以隨后證明有用的方式組織其動作。這樣的潛在引導機制在無監(jiān)督和強化學習的背景下運行,并且遠遠超出當今機器學習、人工智能課程學習的理念(Bengio et al., 2009)。
# 這段絕對是至今我所看過的人工智能文獻里最精彩的部分。
本文的其余部分,我們將闡述這些假設(shè)。 首先,我們將認為局部和多層優(yōu)化,出乎意料地與我們所知道的大腦兼容。 第二,我們將認為成本函數(shù)在大腦區(qū)域和不同時間的變化是不同的,并且描述了成本函數(shù)如何以協(xié)調(diào)方式交互以允許引導復雜函數(shù)。 第三,我們將列出一系列需要通過神經(jīng)計算解決的專門問題,以及具有似乎與特定計算問題匹配的結(jié)構(gòu)的腦區(qū)域。 然后,我們討論上述假設(shè)的神經(jīng)科學和機器學習研究方法的一些影響,并草擬一組實驗來測試這些假設(shè)。 最后,我們從演化的角度討論這個架構(gòu)。
# 待續(xù)...