你可能會認(rèn)為，在特朗普大廈上建設(shè)一個直升機停機坪會給總統(tǒng)在曼哈頓的住宅平添一份豪氣。畢竟，沒有什么事情比乘坐海軍一號直達(dá)你自己的摩天大樓更能象征財富和權(quán)力了。
佩妮（Penny）是一個可以通過衛(wèi)星圖像來預(yù)測紐約城的收入水平以及變化的人工智能系統(tǒng)。當(dāng)我通過它簡潔的頁面查看特朗普住宅區(qū)情況時，顯示的只有滿滿的財氣。“Penny十分堅信這個區(qū)域的居民收入是中高等的。”報告稱。但當(dāng)我從屏幕底部的工具欄中選擇了一個直升機圖標(biāo)，并把它拖到屋頂上時，Penny改變了主意。“你的調(diào)整導(dǎo)致Penny把這個地區(qū)重新劃分為中低等收入地區(qū)”。
“直升機停機坪”是財富的有力象征，不是嗎？難道Penny知道一些我不知道的東西，還是誤讀了數(shù)據(jù)？那么為什么會有人需要這樣的工具呢？如果你能回答這些問題，就能理解Penny是怎么運行的了。
Aman Tiwari是卡內(nèi)基梅隆大學(xué)的一名計算機科學(xué)家，他在紐約的高分辨率衛(wèi)星圖像上覆蓋了人口普查數(shù)據(jù)，并通過神經(jīng)網(wǎng)絡(luò)來豐富它的數(shù)據(jù)庫。（他在圣路易斯利用人口普查數(shù)據(jù)和衛(wèi)星圖像做了同樣的事情，但每個模型只能預(yù)測對應(yīng)城市的家庭收入。）
Aman Tiwari解釋到，人工智能開始將城市景觀中的視覺模式與收入聯(lián)系起來，不同的物體和形狀似乎與不同的收入水平相關(guān)，停車場聯(lián)系著低收入，綠地聯(lián)系著高收入，諸如此類。Tiwari與數(shù)據(jù)可視化工作室Stamen合作，創(chuàng)建了一個界面來探索這些相關(guān)性。你可以在這個用戶界面上隨意拖拽棒球棒、太陽能板、建筑物或其他東西到你的城鎮(zhèn)中。
創(chuàng)造Penny的主要目的并不是設(shè)計一座城市，而是可以更多地了解人工智能到底可以做什么，不能做什么。通常情況下，Penny依據(jù)直覺作出反應(yīng)。把高速公路或停車場搬到上東區(qū)，人工智能預(yù)測的收入中值會更低。再加上一些褐砂石和公園到紐約東部，突然間收入中位數(shù)增加了。Penny總會給你帶來一些不可思議。把廣場酒店扔進(jìn)哈萊姆區(qū)，讓Penny更確信這是一個低收入地區(qū)，即使添加樹也不能將收入拉高。
人工智能違背直覺的情況，凸顯了任何基于機器學(xué)習(xí)的系統(tǒng)的力量和局限性。Tiwari表示：“我們不知道它是否知道我們沒有注意到的東西，或者它作出的判斷是完全錯誤的。
“有時候，人工智能會做出一些神奇的事情，或者在一些問題上給出非常明智的解決方案，但這個解決方案對我們來說是有的時候無法理解的，所以我們不明白為什么它的行為是違反直覺的，”Jeff Clune作出評論。他是懷俄明州的一名計算機科學(xué)家，研究了神經(jīng)網(wǎng)絡(luò)的不透明內(nèi)部運作。“但同時，這些系統(tǒng)并不像我們認(rèn)為的那樣知道的那么多，而且它們經(jīng)常以奇怪或令人困惑的方式作出錯誤的決定。也就是說，它們做出的預(yù)測很多時候是非常不準(zhǔn)確的，因為它們的錯誤有的時候很明顯。
”這樣的缺陷讓大量的科技工作者每天都在不斷與之互動測試。比如Facebook的新聞推送，它使用算法來調(diào)整你的社交流構(gòu)成。或者谷歌的新電腦視覺平臺，Lens，把你手機的攝像頭變成了一個搜索框?；蛘呤翘厮估嚨氖鹿室?guī)避技術(shù)草案。即使是那些創(chuàng)造了這些產(chǎn)品的人工智能工程師，也不能完全理解這些復(fù)雜的系統(tǒng)所做的決定。
Penny讓我們得以見證人工智能和機器學(xué)習(xí)對城市的意義。“這項科技不是為了決定是否在你的院子里安置一座籬笆墻，而是為了幫助我們理解機器是如何對我們的世界發(fā)揮作用的，”他數(shù)字地球公司產(chǎn)品經(jīng)理Jordan Winkler說。該公司為這一項目提供了衛(wèi)星圖像。但他表示，Penny主要是為了讓人們了解人工智能和機器學(xué)習(xí)是如何工作的，或者是不可以做什么。
佩妮很好地處理了這個任務(wù)，有效的減少了用戶探索的時間。如果佩妮的早期預(yù)測符合用戶的期望，他們就不會再進(jìn)一步檢驗這個系統(tǒng)的準(zhǔn)確性了。他們只會認(rèn)為人工智能是非常聰明的。Clune說：“這表明，在人工智能王國一切都進(jìn)行的井井有序，但實際上背后的事情要復(fù)雜得多。”只有不斷花時間用這個系統(tǒng)去探索并發(fā)現(xiàn)錯誤的和人們預(yù)期不相似的結(jié)果，你才會開始質(zhì)疑它結(jié)果的可靠性，以及它工作的原理。