當(dāng)他得到了他想要的答案之后，威爾遜表示利用該算法用來理解光如何表示粒子位置的內(nèi)部規(guī)則之后，可能將會為接下來的研究開辟了一條新的道路。
威爾遜說：“在某種程度上，一個(gè)模型是我們觀察得出的理論，我們不僅可以利用模型進(jìn)行預(yù)測，還可以更好地理解為什么這種預(yù)測方向是正確的，以及這些自然過程是如何運(yùn)作的。”
解讀能力
不過微軟研究人員Wallach說，要在解釋性語言能力上開辟新領(lǐng)域，最大的挑戰(zhàn)之一就是怎樣簡單地定義它。
解讀能力是否意味著人工智能專家知道為什么Facebook數(shù)據(jù)的算法會向每個(gè)人展示一個(gè)特定的帖子，或者說，這是一種能讓你了解自己的方式？使用人工智能治療推薦系統(tǒng)的醫(yī)生是否需要知道為什么采用特定的建議治療方案，或者說我們還需要在醫(yī)院里創(chuàng)建另一個(gè)角色——人工智能監(jiān)測人員？
Wallach稱解讀能力是一種潛在的構(gòu)想：一種無法察覺的東西，但卻被測試了真實(shí)的人們?nèi)绾握_或錯誤地使用人工智能系統(tǒng)。這不僅僅是提升算法觀察以及引擎運(yùn)行的方式。
了解一種算法并不僅僅是為了防止局限性或確保你的火星漫游者不會從太空懸崖上掉下來，而是可能可以幫助人工智能研究人員建立更精確的系統(tǒng)。
優(yōu)步公司的Yosinski說：“如果你不知道這個(gè)系統(tǒng)不工作的原因，要提高它的性能是相當(dāng)困難的。”“通常情況下，如果你知道它為什么會工作失敗的話，最后必然會找到一個(gè)解決方案。”
為了弄清楚其中一種算法是如何思考的，谷歌正試圖對每次通過算法處理圖像時(shí)進(jìn)行的數(shù)百萬次計(jì)算過程進(jìn)行層層篩選研究。在NIPS大會上發(fā)表的一篇論文中，通過觀察樹皮和鳥的互動聯(lián)系，谷歌研究人員Maithra Raghu展示了她修復(fù)的之前有問題的啞鈴與機(jī)器人手臂之間的聯(lián)系。
當(dāng)人工智能研究鳥類的圖像時(shí)，我們可以觀察到人工智能網(wǎng)絡(luò)中哪些神經(jīng)元被激活，而Raghu能夠通過這些數(shù)據(jù)確定哪些神經(jīng)元專注于鳥的叫聲或者集中在樹皮上，最后再把樹皮神經(jīng)元關(guān)掉看看會有什么結(jié)果。取得這一成功意味著盡管人工智能是一個(gè)復(fù)雜的產(chǎn)物，但將神經(jīng)網(wǎng)絡(luò)的工作轉(zhuǎn)化為人類所理解的東西并非是不可能的事情。
Wagstaff說：“在學(xué)校里，我們要求學(xué)生用自己的理解來證明他們學(xué)到的東西，并展示這些來證明他們的理解是正確的。”“現(xiàn)在我們希望機(jī)器也能做同樣的事情。”