自動(dòng)駕駛汽車總有一天會(huì)撞死一位人類。沒(méi)人懷疑這一點(diǎn)。

我們正處于人工智能研究的關(guān)鍵時(shí)期，強(qiáng)人工智能隨時(shí)可能到來(lái)。這項(xiàng)技術(shù)已經(jīng)開(kāi)始走出實(shí)驗(yàn)室，幫助傳統(tǒng)工業(yè)和現(xiàn)代工業(yè)繼續(xù)發(fā)展。但如果有一天有人死在機(jī)器人手里怎么辦？種種問(wèn)題懸而未決，人工智能的時(shí)代到底會(huì)是人類的又一個(gè)黃金時(shí)期還是我們的另一個(gè)“冰河時(shí)代”？

比爾蓋茨、埃隆馬斯克、霍金，這些科技和理論巨人都曾警告我們?nèi)斯ぶ悄艿某霈F(xiàn)可能是人類生存的一大威脅。這樣可怖的觀念從當(dāng)今最聰明的頭腦中說(shuō)出來(lái)讓人不得不認(rèn)真思考。盡管人工智能和機(jī)器人方面的進(jìn)步會(huì)為我們的世界帶來(lái)好處，但進(jìn)一步的認(rèn)知能力才是他們所擔(dān)憂的。擁有自我意識(shí)的機(jī)器人所認(rèn)為的最優(yōu)利益很可能和我們?nèi)祟惖乃季S背道而馳。這些聰明的頭腦似乎不認(rèn)為《終結(jié)者》只是一部極客們的瘋狂腦洞實(shí)驗(yàn)。

是的，自動(dòng)駕駛汽車總有一天會(huì)發(fā)生意外造成人類死亡，但這并不是因?yàn)樗淖晕乙庾R(shí)想要這樣做的。而是傳感器故障或者算法缺陷。如果拋開(kāi)具體的結(jié)果，我們會(huì)發(fā)現(xiàn)這和一個(gè)計(jì)算機(jī)程序停止響應(yīng)并沒(méi)有本質(zhì)區(qū)別。它帶來(lái)的風(fēng)險(xiǎn)顯然不會(huì)導(dǎo)致人類滅絕這樣的災(zāi)難性后果。

為了更好的理解這件事，必須深入了解現(xiàn)代人工智能系統(tǒng)如何工作。每個(gè)應(yīng)用可以當(dāng)做是一個(gè)最優(yōu)化問(wèn)題，我們的目標(biāo)是找到最少成本和最大回報(bào)的解。這種人工智能沒(méi)有任何神奇之處，也不需要具有情感。人工智能在求解這類問(wèn)題時(shí)和我們?nèi)祟惖乃季S方式是很相似的。舉例來(lái)說(shuō)，一個(gè)人工智能駕駛的汽車會(huì)選擇到目的地最短行程的路線，行駛過(guò)程中，一個(gè)計(jì)算機(jī)系統(tǒng)會(huì)從實(shí)時(shí)攝像頭提供的畫(huà)面中發(fā)現(xiàn)路中央的一只貓并決定避開(kāi)它。人們也是這樣想這樣做的。

即便在從未如此流行的“深度學(xué)習(xí)”領(lǐng)域中，數(shù)據(jù)被放在神經(jīng)元網(wǎng)絡(luò)中，追根究底它的運(yùn)行方式仍然是尋找最優(yōu)解，也就是找到與訓(xùn)練數(shù)據(jù)擁有最佳擬合的模式。

一個(gè)判斷圖像內(nèi)容的程序并不比一個(gè)下棋程序更有自我感知能力。這些應(yīng)用系統(tǒng)都沒(méi)有真正的“思考”，它們只是在尋求一個(gè)給定問(wèn)題的最優(yōu)解。即便一些系統(tǒng)的復(fù)雜程度超乎想象，人工智能系統(tǒng)仍然只會(huì)做程序員給定的那些線性工作。

盡管機(jī)器人殺死人類聽(tīng)起來(lái)非?？植?，自動(dòng)汽車造成車禍也相當(dāng)嚇人，人類自身每天引發(fā)的車禍也不在少數(shù)。當(dāng)然，想到這些汽車都是由一個(gè)真正的人類駕駛的我們或許有一絲寬慰，但從統(tǒng)計(jì)學(xué)的角度講，人類駕駛員的安全程度永遠(yuǎn)比不上全自動(dòng)駕駛的道路交通系統(tǒng)。當(dāng)自動(dòng)駕駛汽車的益處開(kāi)始超過(guò)小概率的車禍?zhǔn)录?，開(kāi)始以高效率影響我們的城市規(guī)劃、日常出行、交通價(jià)格的時(shí)候，我們會(huì)對(duì)它越來(lái)越熟悉，最終自動(dòng)駕駛汽車就像個(gè)人電腦一樣成為了生活中普通的一部分。

 機(jī)器人和人工智能帶來(lái)的真正問(wèn)題是在它落在壞人手里的時(shí)候。就像核電站和核武器之間的區(qū)別一樣。機(jī)器人、人工智能領(lǐng)域的進(jìn)步會(huì)給不懷好意的人帶來(lái)新的工具，他們可以通過(guò)黑掉這些智能系統(tǒng)來(lái)傷害別人。但我們應(yīng)當(dāng)有能力控制這些風(fēng)險(xiǎn)，并時(shí)刻準(zhǔn)備面對(duì)這些挑戰(zhàn)。不要忘記人類的智慧曾帶給社會(huì)的巨大進(jìn)步。

蓋茨、馬斯克、霍金提醒我們注意人工智能的發(fā)展方向并沒(méi)有錯(cuò)。但最大的危害不是來(lái)自機(jī)器，而更可能來(lái)自人心。沒(méi)有什么比這更狠毒的了。我們一度無(wú)法想象的技術(shù)現(xiàn)在變得觸手可及，但一些理念卻會(huì)永遠(yuǎn)停留在漫畫(huà)書(shū)中，比如一個(gè)有自我意識(shí)的反人類機(jī)器人殺手。