最近，我的一個朋友在聽了許多關(guān)于自然語言處理（NLP，Natural Language Processing）的演講后，發(fā)現(xiàn)一個有趣的現(xiàn)象：許多研究者都在吹噓他們對語言學(xué)的認(rèn)知有多 “少”，由此來暗示，他們的系統(tǒng)已經(jīng)聰明到可以在沒有預(yù)設(shè)知識的前提下學(xué)習(xí)。
我同意你關(guān)于非結(jié)構(gòu)化學(xué)習(xí)的觀點(diǎn)。這種學(xué)習(xí)很可能導(dǎo)致 “黑箱” 系統(tǒng)，最后在極端情況下產(chǎn)生嚴(yán)重的后果。當(dāng)系統(tǒng)變得更自治，能操控的資源也更多時，我們需要讓 AI 變得更為可預(yù)測。一種方式是引入更多的結(jié)構(gòu)和限制到系統(tǒng)中。
我們肯定不想把這個星球的未來，交給一個由一堆非結(jié)構(gòu)化的浪漫小說訓(xùn)練出來的 “黑盒”（black boxes）神經(jīng)網(wǎng)絡(luò)吧？
Q: 你是否認(rèn)為通用人工智能（GAI）是從一些列垂直領(lǐng)域的 AI 中衍生出來的？長期而言，對機(jī)器學(xué)習(xí)算法的依賴將會在哪些方面造成風(fēng)險？你認(rèn)為 2150 年最常見的職業(yè)是什么？
A: 我不認(rèn)為聰明地整合各種垂直領(lǐng)域的 AI 就能生成 GAI 。Deepmind 的做法就很有前景：它開發(fā)出一套比較通用的算法，然后把它用于垂直領(lǐng)域的學(xué)習(xí)中，以達(dá)到超過人類的表現(xiàn)。
有關(guān)風(fēng)險：把 AI 用到 AI 領(lǐng)域的發(fā)展本身將會帶來極高的風(fēng)險，因?yàn)樵谶@個過程中沒有了人的參與，讓 AI 來控制發(fā)展進(jìn)程，結(jié)果可能是失控的。
有關(guān)職業(yè)：我覺得到 2150 年職業(yè)（和整個經(jīng)濟(jì)）可能已經(jīng)完全不存在了！經(jīng)濟(jì)分工是一個人類社會中的概念。它存在的語境是——這個世界上有很多人，他們能力相近，但因?yàn)閮?yōu)勢各異，所以他們之間的交易能有所得。而當(dāng)我們有一個超級智能的 AI，它的能力超過所有人類，經(jīng)濟(jì)分工存在的基礎(chǔ)就沒有了，就如同我們?nèi)祟惒慌c螞蟻?zhàn)鲑Q(mào)易。
當(dāng)然，有可能到了 2150 年，還沒等我們早出超級智能 AI，人類文明就因?yàn)槠渌虿淮嬖诹?/p> 登陸|注冊歡迎登陸本站，認(rèn)識更多朋友，獲得更多精彩內(nèi)容推薦！