科技訊4月13日消息，據(jù)TechnologyReview報(bào)道，當(dāng)機(jī)器人決定走特定路線前往倉庫，或無人駕駛汽車決定左轉(zhuǎn)或右轉(zhuǎn)時(shí)，它們的人工智能（AI）算法是靠什么做出決定的？現(xiàn)在，AI還無法向人們解釋自己做出某項(xiàng)決定的理由，這或許是個(gè)需要搞清楚的大問題。
2016年，美國(guó)新澤西州蒙茅斯縣（Monmouth County）安靜的公路上出現(xiàn)一輛奇怪的無人駕駛汽車。這是芯片制造商英偉達(dá)的研究人員開發(fā)出的試驗(yàn)車，盡管它看起來與谷歌、特斯拉以及通用汽車公司研發(fā)的無人駕駛汽車沒什么不同，但它展現(xiàn)出AI的更多力量。
幫助汽車實(shí)現(xiàn)自動(dòng)駕駛堪稱是令人印象深刻的壯舉，但同時(shí)也讓人感覺有點(diǎn)兒不安，因?yàn)楝F(xiàn)在我們還不是非常清楚汽車如何作出決策。汽車傳感器收集的信息被直接傳給龐大的人工神經(jīng)網(wǎng)絡(luò)，后者可對(duì)數(shù)據(jù)進(jìn)行處理，然后發(fā)出相應(yīng)指令，指揮汽車方向盤、制動(dòng)以及其他系統(tǒng)運(yùn)行。
表面看起來，它似乎與能與人類駕駛員的反應(yīng)相匹配。但是當(dāng)其發(fā)生意外事件，比如撞上樹或闖紅燈時(shí)，我們可能很難從中找出原因。這些AI算法非常復(fù)雜，甚至就連設(shè)計(jì)它們的工程師都無能為力。現(xiàn)在我們還沒有辦法設(shè)計(jì)出這樣的系統(tǒng)：它總是能夠向人們解釋為何要做出上述決定。
這些無人駕駛汽車的“神秘意識(shí)”正指向一個(gè)與AI有關(guān)的、迫在眉睫的問題。這些汽車算法以AI技術(shù)（又被稱為深度學(xué)習(xí)）為基礎(chǔ)，近年來其已被證明是解決諸多問題的強(qiáng)大工具。這種技術(shù)被廣泛用于圖像字幕、語音識(shí)別以及語言翻譯等領(lǐng)域?，F(xiàn)在，同樣的技術(shù)也被期望能夠幫助診斷致命疾并做出價(jià)值數(shù)百萬美元的交易決策以及無數(shù)足以改變整個(gè)行業(yè)的其他事情。
但是直到我們找到新的方式，能讓深度學(xué)習(xí)等技術(shù)變得更容易被其創(chuàng)造者所理解、更容易向用戶就自己的行為作出解釋后，上述場(chǎng)景才會(huì)出現(xiàn)或應(yīng)該出現(xiàn)。否則很難預(yù)測(cè)它們何時(shí)會(huì)出現(xiàn)故障，而且出現(xiàn)故障將是不可避免的。這也是英偉達(dá)無人駕駛汽車依然處于測(cè)試狀態(tài)的原因之一。
目前，數(shù)學(xué)模型正被用于幫助確定誰該獲得假釋、誰應(yīng)獲得貸款以及誰該求職被錄用。如果你能接觸到這些數(shù)字模型，很可能了解它們的推理過程。但是銀行、軍隊(duì)、雇主以及其他人現(xiàn)在正將注意力轉(zhuǎn)向更復(fù)雜的機(jī)器學(xué)習(xí)上，它可以幫助自動(dòng)決策變得更令人匪夷所思，而深度學(xué)習(xí)可能從根本上改變了計(jì)算機(jī)的編程方式。麻省理工學(xué)院機(jī)器學(xué)習(xí)教授湯米·雅科拉（Tommi Jaakkola）表示：“這個(gè)問題不僅與當(dāng)前有關(guān)，更攸關(guān)未來的許多問題。無論是投資決策、醫(yī)療決策亦或是軍事決策，我們都不能簡(jiǎn)單地依賴這種‘黑箱’。”
已經(jīng)有人提議，將詢問AI系統(tǒng)如何得出結(jié)論或做出決定作為一項(xiàng)基本法律權(quán)利。從2018年夏季開始，歐盟可能要求公司向用戶提供其自動(dòng)化系統(tǒng)作出決策的理由。這似乎是不可能的，即使對(duì)于表面來看相對(duì)簡(jiǎn)單的系統(tǒng)來說，比如使用深度學(xué)習(xí)服務(wù)廣告或推薦歌曲的應(yīng)用和網(wǎng)站。運(yùn)行這些服務(wù)的計(jì)算機(jī)已經(jīng)在進(jìn)行自我編程，它們正以我們無法理解的方式工作，即使開發(fā)這些應(yīng)用的工程師也無法明確解釋它們的行為。
這就引出許多令人難以置信的問題。隨著技術(shù)的進(jìn)步，我們可能很快就會(huì)越過一些門檻，幫助AI實(shí)現(xiàn)飛躍。雖然我們?nèi)祟愐膊⒎强偸悄軌蚪忉屒宄约旱乃季S過程，但我們能找到通過直覺信任和判斷某人的方法。機(jī)器也有類似人類的思維嗎？此前，我們從未開發(fā)出創(chuàng)造者也無法理解其運(yùn)行方式的機(jī)器，我們?nèi)绾闻c這些不可預(yù)測(cè)、無法理解的智能機(jī)器交流或和睦相處？這些問題促使我踏上了解密AI算法的征途，從蘋果到谷歌再到其他許多地方，甚至包括會(huì)見了我們這個(gè)時(shí)代最偉大的一位哲學(xué)家。
圖：藝術(shù)家亞當(dāng)·費(fèi)里斯（Adam Ferriss）利用谷歌Deep Dream程序創(chuàng)造了這張圖，Deep Dream可以通過刺激深度神經(jīng)網(wǎng)絡(luò)的模式識(shí)別能力調(diào)整圖像。這張圖是利用神經(jīng)網(wǎng)絡(luò)中間層創(chuàng)作的。