被稱為Deep Dream的程序產(chǎn)生的圖像，顯示出看起來(lái)非常怪誕的動(dòng)物從云層或植物中現(xiàn)身，如幻境中的寶塔出現(xiàn)在森林或山脈上。這些圖片證明，深度學(xué)習(xí)并非完全不可理解，算法也需要熟悉的視覺(jué)特征，比如鳥(niǎo)喙或羽毛等。但這些圖片也顯示，深度學(xué)習(xí)與人類感知截然不同，會(huì)讓我們忽略的東西變得不可思議。谷歌研究人員注意到，當(dāng)算法生成啞鈴圖像時(shí)，也會(huì)生成舉著它的人類雙臂。機(jī)器得出的結(jié)論是，手臂是啞鈴的一部分。
利用來(lái)自神經(jīng)科學(xué)和認(rèn)知科學(xué)領(lǐng)域的想法，這種技術(shù)取得更大進(jìn)步。由美國(guó)懷俄明大學(xué)副教授杰夫·克盧恩（Jeff Clune）領(lǐng)導(dǎo)的團(tuán)隊(duì)已經(jīng)采用光學(xué)錯(cuò)覺(jué)AI測(cè)試深度神經(jīng)網(wǎng)絡(luò)。2015年，克盧恩的團(tuán)隊(duì)展示了特定圖像如何欺騙神經(jīng)網(wǎng)絡(luò)，讓它們誤以為目標(biāo)不存在，因?yàn)閳D像利用了系統(tǒng)搜索的低層次模式?？吮R恩的同事杰森（Jason Yosinski）還開(kāi)發(fā)出類似探針的工具，它以網(wǎng)絡(luò)中部的神經(jīng)元為目標(biāo)，尋找最容易被激活的圖像。盡管圖像以抽象的方式顯現(xiàn)，但卻凸顯了機(jī)器感知能力的神秘本質(zhì)。
可是，我們不僅僅沒(méi)法窺探AI的思維，也沒(méi)有簡(jiǎn)單的解決方案。深層神經(jīng)網(wǎng)絡(luò)內(nèi)部計(jì)算的相互作用對(duì)高層次模式識(shí)別和復(fù)雜的決策至關(guān)重要，但是這些計(jì)算堪稱是數(shù)學(xué)函數(shù)和變量的泥潭。雅克拉說(shuō)：“如果你有很小的神經(jīng)網(wǎng)絡(luò)，你可能會(huì)理解它。但是當(dāng)其變得非常龐大時(shí)，每層都會(huì)有數(shù)千個(gè)單元，而且有數(shù)百層，那么它會(huì)變得相當(dāng)難以理解。”
雅克拉的同事雷吉納·巴爾齊萊（Regina Barzilay）專注于將機(jī)器學(xué)習(xí)應(yīng)用到醫(yī)學(xué)領(lǐng)域。2年前43歲時(shí)，巴爾齊萊被診斷患上乳腺癌。這個(gè)診斷本身就令人感到震驚，但巴爾齊萊也很沮喪，因?yàn)榍把亟y(tǒng)計(jì)和機(jī)器學(xué)習(xí)方法還未被用于幫助腫瘤學(xué)研究或指導(dǎo)治療。她說(shuō)，AI很可能徹底改變醫(yī)療行業(yè)，而意識(shí)到這種潛力意味著其不僅僅可被用于病例中。她希望使用更多未被充分利用的原始數(shù)據(jù)，比如影像數(shù)據(jù)、病理資料等。
去年結(jié)束癌癥治療后，巴爾齊萊和學(xué)生們開(kāi)始與馬薩諸塞州綜合醫(yī)院的醫(yī)生們合作，開(kāi)發(fā)能夠通過(guò)分析病理報(bào)告確定病人的系統(tǒng)，這些患者是研究人員可能想要研究的特殊臨床病例。然而，巴爾齊萊知道，這套系統(tǒng)需要能夠解釋其推理。為此，巴爾齊萊與雅克拉等人增加新的研究，該系統(tǒng)可以提取和突出文本中的片段，這些片段也處于已經(jīng)被發(fā)現(xiàn)的模式中。巴爾齊萊等人還開(kāi)發(fā)出深度學(xué)習(xí)算法，它可在乳房X線照片中發(fā)現(xiàn)乳腺癌的早期癥狀。他們的目標(biāo)是給于這種系統(tǒng)解釋推理的同樣能力。巴爾齊萊說(shuō)：“你真的需要一個(gè)回路，機(jī)器和人類可通過(guò)其加強(qiáng)協(xié)作。”
美國(guó)軍方正向多個(gè)項(xiàng)目投資數(shù)十億美元，這些項(xiàng)目可利用機(jī)器學(xué)習(xí)引導(dǎo)戰(zhàn)車和飛機(jī)、識(shí)別目標(biāo)、幫助分析師篩選大量情報(bào)數(shù)據(jù)。與其他領(lǐng)域的研究不同的是，美國(guó)國(guó)防部已經(jīng)確定，可解釋性是解開(kāi)AI算法神秘面紗的關(guān)鍵“絆腳石”。國(guó)防部下屬研發(fā)機(jī)構(gòu)DARPA項(xiàng)目主管大衛(wèi)·甘寧（David Gunning）負(fù)責(zé)監(jiān)督名為Explainable Artificial Intelligence的項(xiàng)目，他此前曾幫助監(jiān)督最后促使Siri誕生的DARPA項(xiàng)目。
甘寧表示，自動(dòng)化正滲透到無(wú)數(shù)軍事領(lǐng)域。情報(bào)分析師正測(cè)試機(jī)器學(xué)習(xí)，將其作為在海量情報(bào)數(shù)據(jù)中確認(rèn)模式的新方法。許多無(wú)人駕駛地面戰(zhàn)車和飛機(jī)正被開(kāi)發(fā)和測(cè)試，但坐在無(wú)法自我解釋的機(jī)器人坦克中，士兵們可能不會(huì)感覺(jué)不舒服，分析師也不愿意根據(jù)沒(méi)有推理支持的信息采取行動(dòng)。甘寧說(shuō)：“這些機(jī)器學(xué)習(xí)系統(tǒng)本質(zhì)上經(jīng)常產(chǎn)生大量假警報(bào)，為此網(wǎng)絡(luò)分析師需要額外幫助，以便理解為何它們給出如此建議。”
今年3月份，DARPA從學(xué)術(shù)界和工業(yè)領(lǐng)域挑選了13個(gè)項(xiàng)目，以便獲得甘寧團(tuán)隊(duì)的資助，其中包括華盛頓大學(xué)教授卡洛斯·蓋斯特林(Carlos Guestrin)領(lǐng)導(dǎo)的項(xiàng)目。蓋斯特林與同事們已經(jīng)找到一種新方法，讓機(jī)器學(xué)習(xí)系統(tǒng)為自己的輸出提供推理解釋。實(shí)質(zhì)上，按照他們的方法，計(jì)算機(jī)可自動(dòng)從數(shù)據(jù)集中查找例證，并以它們?yōu)樽糇C。舉例來(lái)說(shuō)，可以分類恐怖分子電子郵件信息的系統(tǒng)，可能需要使用數(shù)以千萬(wàn)計(jì)的信息進(jìn)行訓(xùn)練和決策。但利用華盛頓大學(xué)團(tuán)隊(duì)的方法，它可以凸顯信息中出現(xiàn)的特定關(guān)鍵詞。蓋斯特林的團(tuán)隊(duì)還設(shè)計(jì)了圖像識(shí)別系統(tǒng)，通過(guò)凸顯圖像中最重要的部分提供推理支持。