贊助本站
人工智能正滲透到我們現(xiàn)代生活的每一個角落，人工智能可以在Facebook上給你發(fā)布的圖片上的朋友貼上名字的標(biāo)簽，或者幫你選擇在Instagram上看到的圖片，而材料科學(xué)家和NASA研究人員也開始使用人工智能來幫助發(fā)現(xiàn)新科學(xué)和太空探索。
但這一技術(shù)存在一個核心問題，無論是在社交媒體上還是在火星漫游車中使用過程中，因為建造它的程序員都不知道人工智能做出每一個決定的原因。
現(xiàn)代人工智能仍是一種新事物，在過去的5年，大型科技公司對于人工智能的投資和研究才剛剛開始。而在此之前，已有幾十年歷史的關(guān)于人工智能的理論最終在2012年得到了證實。受人腦的啟發(fā)，一個人工神經(jīng)網(wǎng)絡(luò)依賴于“神經(jīng)元”之間的成千上萬個微小的連接，或者是小范圍一串串的數(shù)學(xué)計算，這類似于大腦中神經(jīng)元的連接系統(tǒng)。但這種軟件架構(gòu)給我們帶來了一種新的權(quán)衡：由于數(shù)百萬個連接的變化如此復(fù)雜和微小，研究人員無法準(zhǔn)確地確定正在發(fā)生的連接結(jié)果，他們只會得到一個輸出的結(jié)果。
“隨著機器學(xué)習(xí)在社會變得越來越普遍而且風(fēng)險越來越高，人們開始意識到我們不能把這些系統(tǒng)當(dāng)作可靠和公正的保險箱，”Hanna?Wallach在一封電子郵件中告訴Quartz，他是微軟的高級研究員，也是會議的發(fā)言人。“我們需要了解它們內(nèi)部發(fā)生了什么，以及它們是如何被使用的。”
執(zhí)行關(guān)鍵任務(wù)的人工智能
在美國國家航空航天局的噴氣推進實驗室中，人工智能能夠讓火星探測器在探索未知行星表面時能夠半自主地運行。人工智能還被用于進行梳理探測器在傳回地球時拍攝的數(shù)千張照片的過程中。
Kiri Wagstaff是JPL的一名人工智能研究人員和發(fā)言人，他說，由于每一個決定都帶來了巨大的風(fēng)險，在使用人工智能之前，我們需要完全理解它的每個決定。
“如果在火星軌道上有一艘宇宙飛船，這代表說它就在2億英里之外，并且需要數(shù)億美元的費用，甚至可能是十億美元。如果出了什么問題，一切都難以挽救了。”Wagstaff說：“不花費大量的金錢的話是沒有辦法修復(fù)、訪問、或者替換這些東西的。因此，如果我們想讓機器學(xué)習(xí)發(fā)揮作用，那么讓機器執(zhí)行這些任務(wù)的人需要了解它需要做什么，為什么要去做這個行為，因為如果機器人不知道自己為什么要做出選擇，人們?yōu)槭裁磿湃嗡鼇砜刂扑麄儼嘿F的火星探測器或軌道飛行器呢？”
Wagstaff正致力于通過NASA的各種航天器在太空中捕捉到的圖像建造人工智能對它們進行分類，由于這些圖片的數(shù)量可以達到數(shù)百萬，所以如果人工智能在這龐大的數(shù)據(jù)庫中識別出有趣的照片，那么我們可以節(jié)省很多時間來找到我們想要看到的這些照片——但前提是人工智能知道一個“有趣”的圖像是什么樣的。
對Wagstaf而言，他覺得理解人工智能的目的是實現(xiàn)特定算法的關(guān)鍵。如果執(zhí)行機器學(xué)習(xí)過程中在如何使用圖像方面存在計算錯誤，那就意味著數(shù)據(jù)轉(zhuǎn)移的任務(wù)成本價值數(shù)百萬美元以上。
Wagstaff說：“當(dāng)你看到一個電腦說‘這很有趣，讓我看一看這張圖片’時，你就會處于不確定的狀態(tài)，因為你自己沒有完整的看過這百萬張照片，你不知道這些哪些是有趣的，或者為什么這是有趣的。”“圖片有趣是因為它的顏色，因為它的形狀，或者因為場景中物體的空間排列順序嗎？”
隱藏的知識
2007年，康奈爾大學(xué)的人工智能教授安德魯·戈登·威爾遜與一個團隊合作開發(fā)了一種新型PET掃描機。由于某些粒子在這臺機器上與像其他一般的粒子表現(xiàn)的不一樣，他的任務(wù)是追蹤某個粒子穿過一盒氙氣的過程。
他的顧問建議嘗試使用神經(jīng)網(wǎng)絡(luò)來進行監(jiān)測，而神經(jīng)網(wǎng)絡(luò)在當(dāng)時還是一種比較模糊的概念。利用這種技術(shù)，威爾遜能夠利用粒子發(fā)出的光將其定位在該盒氙氣中。