當(dāng)然，人類仍需要去訓(xùn)練這些系統(tǒng)。但至少目前來(lái)看，對(duì)編程技能的需求將會(huì)下降。未來(lái)的職位不僅需要對(duì)數(shù)學(xué)的掌握，還需要關(guān)于教育的直覺(jué)。谷歌DeepMind團(tuán)隊(duì)負(fù)責(zé)人德米斯哈薩比斯(Demis Hassabis)表示：“這就像是一種藝術(shù)形式，提煉出系統(tǒng)中的精華。目前全球只有幾百人擅長(zhǎng)此道。”不過(guò)，就是為數(shù)不多的這些人在短短幾年時(shí)間里推動(dòng)了科技行業(yè)的轉(zhuǎn)型。
人類與技術(shù)將是何種關(guān)系？
除了影響找工作之外，這一轉(zhuǎn)型還將帶來(lái)明顯的文化意義。如果說(shuō)人工編寫(xiě)的軟件帶來(lái)了對(duì)工程師的崇拜，以及人類體驗(yàn)可被濃縮至一系列可理解指令的觀念，那么機(jī)器學(xué)習(xí)將帶來(lái)相反方向的變化。推動(dòng)宇宙運(yùn)行的代碼可能是人類無(wú)法分析的。例如，谷歌目前正面臨著歐洲的反壟斷調(diào)查，稱該公司過(guò)度影響了搜索結(jié)果。如果谷歌自己的工程師也無(wú)法弄明白，搜索引擎算法會(huì)將什么樣的結(jié)果放在首位，那么這樣的指控將非常困難。
過(guò)去一段時(shí)間，這種不確定性正在爆發(fā)。最簡(jiǎn)單的算法也可能導(dǎo)致無(wú)法預(yù)期的結(jié)果，這已經(jīng)不算新聞。這可以回溯至混論理論和隨機(jī)數(shù)發(fā)生器。過(guò)去幾年，隨著網(wǎng)絡(luò)越來(lái)越復(fù)雜，功能越來(lái)越多，代碼變得越來(lái)越令人看不懂，而機(jī)器中的幽靈也讓人覺(jué)得難以控制，無(wú)論是飛機(jī)事故，股市的迅速熔斷，還是大規(guī)模的停電。
由于這種力量的興起，技術(shù)專家丹尼希利斯(Danny Hillis)已準(zhǔn)備宣告啟蒙時(shí)代的終結(jié)。在這一時(shí)代里，我們相信邏輯、確定性，以及對(duì)自然的控制。希利斯表示，我們正在進(jìn)入“糾纏的時(shí)代”。“隨著技術(shù)產(chǎn)物變得更復(fù)雜，我們與它們的關(guān)系也將改變。”他在《設(shè)計(jì)和科學(xué)期刊》上表示，“我們不再是這些產(chǎn)物的主人，我們需要與它們協(xié)商，勸導(dǎo)他們、引導(dǎo)他們?nèi)?shí)現(xiàn)我們的目標(biāo)。我們建立起了叢林，而叢林里有自己的生物。”機(jī)器學(xué)習(xí)的崛起是這一旅程中的最新一步，也可能是最后一步。
這樣的現(xiàn)實(shí)令人恐慌。在一般人看來(lái)，編程是需要通過(guò)培訓(xùn)班學(xué)習(xí)的技能，程序員至少是人類。然而目前，這些科技精英對(duì)他們作品的指揮能力正在弱化，甚至已經(jīng)無(wú)法直接去指揮。這一領(lǐng)域的公司已經(jīng)發(fā)現(xiàn)，機(jī)器行為很難控制。去年，谷歌的照片識(shí)別引擎將黑人標(biāo)記為大猩猩，而谷歌對(duì)此做出了緊急道歉。谷歌的解決辦法很粗暴，禁止系統(tǒng)將任何東西標(biāo)記為大猩猩。
這意味著，在即將到來(lái)的時(shí)代里，我們的主動(dòng)權(quán)將被讓渡給機(jī)器。知名物理學(xué)家史蒂芬霍金(Stephen Hawking)表示：“可以想象，這樣的技術(shù)將會(huì)比金融市場(chǎng)更聰明，在發(fā)明能力上超過(guò)人類研究員，對(duì)社會(huì)的操控技巧勝過(guò)人類領(lǐng)袖，而開(kāi)發(fā)出的武器將是我們無(wú)法理解的。人工智能的短期影響取決于控制者是誰(shuí)，但長(zhǎng)期影響在于誰(shuí)能控制人工智能。”這樣的觀點(diǎn)也得到了伊隆馬斯克(Elon Musk)和比爾蓋茨(Bill Gates)等人的響應(yīng)。
不過(guò)，這樣的擔(dān)心不必太過(guò)：“天網(wǎng)”還沒(méi)有到來(lái)。我們只是在了解與新技術(shù)互動(dòng)的規(guī)則。目前，工程師已經(jīng)找到了某些辦法，以可視化的方式呈現(xiàn)深度學(xué)習(xí)系統(tǒng)的內(nèi)部情況。但即使我們無(wú)法完全理解機(jī)器的思考方式，也并不意味著我們對(duì)機(jī)器無(wú)計(jì)可施。未來(lái)，我們不會(huì)太關(guān)心機(jī)器行為的底層基礎(chǔ)，我們將學(xué)會(huì)專注于行為本身。代碼的重要性將會(huì)下降，而用于訓(xùn)練機(jī)器的數(shù)據(jù)變得越來(lái)越重要。
如果說(shuō)這聽(tīng)起來(lái)似曾相識(shí)，那么是因?yàn)?，這看起來(lái)就像是20世紀(jì)的行為主義理論。實(shí)際上，機(jī)器學(xué)習(xí)算法的訓(xùn)練過(guò)程常常被拿來(lái)與20世紀(jì)重要的行為主義實(shí)驗(yàn)做對(duì)比。巴甫洛夫訓(xùn)練狗流口水并非通過(guò)對(duì)饑餓感的研究，而只是不斷重復(fù)某個(gè)事件。他多次提供數(shù)據(jù)，直到代碼對(duì)自己進(jìn)行重寫(xiě)。而在行為主義者看來(lái)，他們能夠控制自己的研究對(duì)象。
斯倫表示，長(zhǎng)期而言，機(jī)器學(xué)習(xí)的影響將逐漸普及?，F(xiàn)在，你不需要了解HTML就能開(kāi)發(fā)網(wǎng)站，而未來(lái)你也不需要博士水平的知識(shí)就能利用深度學(xué)習(xí)的強(qiáng)大力量。只要知道如何訓(xùn)練寵物犬，人們就可以利用機(jī)器學(xué)習(xí)。斯倫表示：“對(duì)我而言，這是編程領(lǐng)域最酷的一件事，因?yàn)楝F(xiàn)在任何人都能編程。”
在計(jì)算發(fā)展史上，我們常常采用由內(nèi)而外的方式去了解機(jī)器如何工作。最開(kāi)始，我們編寫(xiě)代碼，而機(jī)器表達(dá)代碼。這樣的世界觀有一定的靈活性，但也意味著某種基于規(guī)則的確定性，即事物是底層指令的產(chǎn)物。機(jī)器學(xué)習(xí)的情況相反，我們需要采用由外而內(nèi)的方式去研究。不僅是代碼決定行為，行為也會(huì)影響代碼。機(jī)器是世界的產(chǎn)物。