1963 年的 Jürgen 和他的父親 Johann Schmidhuber 玩象棋
由于數(shù)據(jù)是從與環(huán)境的互動中得來，這種無監(jiān)督模型網(wǎng)絡(luò)1990 年以來我一直叫它世界模型能隨著時間學習發(fā)現(xiàn)新的規(guī)則或者對稱性、或各種重復。它能學習去用少量計算資源編碼數(shù)據(jù)，這里的計算資源指的是更少的存儲或者更少的計算時間。過去學習中有意識的東西會隨著時間的推移變得自動和具有潛意識。
隨著網(wǎng)絡(luò)的進步，學習一個新的規(guī)律后，它可以通過查看無監(jiān)督的世界模型在學會前后需要編碼多少計算資源來測量其新洞察力的深度，前后的差異就是網(wǎng)絡(luò)的「樂趣」。其洞察力的深度是一個數(shù)字，直奔第一個網(wǎng)絡(luò)，也就是控制器，控制器的任務(wù)是將所有的反饋信號最大化，包括從各種內(nèi)在的愉悅時刻（joy moment）和該網(wǎng)絡(luò)之前沒有的洞察力而來的反饋信號。愉悅時刻類似于一個科學家發(fā)現(xiàn)一個以前未知的新物理定律。
你能幫我在我的意識和經(jīng)驗的范圍內(nèi)理解所有的處理嗎？
當你行走在這個世界中時，你會遇到很多張人臉，這意味著你做的一些處理工作，在大腦中構(gòu)建某種循環(huán)子網(wǎng)絡(luò)來壓縮觀測歷史（稱之為 compactify）確實有效?！该娌烤幋a器」（face encoder）會與原型人臉相對應(yīng)。所以當一個新面孔出現(xiàn)的時候，你需要做的就是要將這張面孔與原型的差異進行編碼。
即便如此，我仍然不確定為什么我們能說這就是有意識。
關(guān)于意識有一件很重要的事情是智能體會注意到，在與世界的互動中有一件事總是存在，即智能體自己。
出于數(shù)據(jù)壓縮的目的，用循環(huán)世界模型網(wǎng)絡(luò)（recurrent world-model network）挑出一些神經(jīng)元對智能體本身進行編碼是非常有效率的。它能夠通過創(chuàng)造一個符號將整個行為和感知的歷史以及屬于智能體的其他符號都進行壓縮：可能是手、腳等。在解決新問題的過程中，不管你什么時候激活這些與自我符號相關(guān)的神經(jīng)元，智能體都在思考著自身。
所以，在 1991 年的時候，我們就已經(jīng)達到了這一點。當然，那只是意識的一種基本形式不像你我的意識這樣令人印象深刻，因為我們的大腦要比這些小人工智能體的大腦大得多。我們的大腦皮層中的連接可能多達 10 萬億種，但是目前最大的長短期記憶人工神經(jīng)網(wǎng)絡(luò)（Long-Short Term Memory, LSTM）也可能只擁有 10 億種連接。相比較，你的大腦皮層要大 10 萬倍，所以攜帶的意識當然也要比小小的人造大腦更加可觀。但是幾乎每 5 年，計算的成本就會便宜 10 倍。所以或許我們還需要 25 年的時間，才能第一次獲得和大腦皮層連接一樣多的長短期記憶人工神經(jīng)網(wǎng)絡(luò)。
人造大腦的電子連接比大腦皮層的連接要快。
Schmidhuber 和仿真機器人
用技術(shù)行話來說，真正的挑戰(zhàn)是「知覺難題」（hard problem of consciousness）。這就像是一種經(jīng)驗一樣，哲學家們稱之為感質(zhì)（qualia）。當你擁有了一種經(jīng)驗之后看日落、聽你最喜歡的樂隊唱你喜歡的歌、聞卡布奇諾的味道等等就可以從一些存在的事物當中獲取一些經(jīng)驗。只是目前原因我們還不清楚。哲學家 David Chalmers 認為這個問題是一個「難題」，換句話說：「身體上的感受為什么會讓我們的內(nèi)心生活更加豐富呢？」你是否相信這個模型還會讓這些人工智能產(chǎn)生感質(zhì)？
我認同這個觀點。從行為上來講，這些人工智能都非常的相似。當我們讓這些人工智能和其他一些能夠傷害它們的人工智能面對面的時候例如在捕食與被捕食（predator-prey）的場景中它們不想要受傷。當一個人工智能襲擊另一個人工智能時，它對疼痛的感知就會上升而第二個人工智能就會據(jù)此進行預測并且避免這種痛苦，比如說藏在窗簾或者是模擬相同的場景。所以說，從這些智能體的行為來看，它們并不喜歡這樣。
這是我們很長時間以來所看到的。我們的人工智能正在試圖避免痛苦，并將愉悅最大化包括開心或是內(nèi)心的喜悅，從洞察力到模式因為它們已經(jīng)內(nèi)置了可以最大化的效用函數(shù)（utility function）或是獎勵函數(shù)（reward function）。人類也生來具有一種獎勵函數(shù)。這些人工生命的行為至少從性質(zhì)上來看和高等級的動物或者說是人類非常相似。所以無論如何，我們都應(yīng)該相信這是可復制的。