機(jī)器視覺
在舊金山碼頭一個廢棄的倉庫里，當(dāng)潮濕空氣從生銹的鐵皮屋頂上的洞里涌出來的時候，Sunny Tang正在演奏她的大提琴，同時正從流感中恢復(fù)過來。她有45%的悲傷和0.01%的惡心，至少這是在倉庫另一面追蹤她的表情、手勢和身體語言的人工智能（AI）獲得的信息，并在她身后的大屏幕上顯示出來。
機(jī)器情感分析
Sunny Tang正與Kronos Quartet的其他人共同演奏，這是一個以非正統(tǒng)實驗而聞名的舊金山弦樂系列，而AI則服從特里沃爾·帕格倫（Trevor Paglen）的命令，這位美國藝術(shù)家在幾乎所有的媒介上都對技術(shù)和監(jiān)控提出了重大質(zhì)疑。這都是視覺機(jī)器（Sight Machine）項目的一部分，它是帕格倫編排的表演，目的是探索計算機(jī)視覺崛起帶來的影響。
幾分鐘后，當(dāng)Kronos Quartet開始演奏其他曲子時，屏幕上出現(xiàn)了新的圖像。最初，它們通過環(huán)繞在上空的衛(wèi)星的眼睛來顯示地球。然后，他們放大了地面上的東西，顯示AI正鎖定房子、汽車和個人，隨著帕格倫的硬件和軟件追蹤到Sunny Tang的動作，他們就像從天堂里追蹤他們的一舉一動那樣。
“一個地球，一個人。”一個無形的聲音說，這個聲音在寒冷的倉庫中回蕩著。這一次，沒人再笑出來。就在幾分鐘前，有趣的事情開始讓人感到不安。在帕格倫在舊金山灣進(jìn)行試驗三個月后，這些感覺仍然引起了共鳴。就像藝術(shù)家的作品那樣，視覺機(jī)器正觸及那些基本上看不到但卻非常真實的東西。
隨著電腦視覺在我們的生活和風(fēng)景中悄悄傳播，它具有娛樂性和實用性，功能強(qiáng)大，存在缺陷，有趣但卻令人感到不安。AI也是一個整體，你看不見它，但它無處不在。“沒有任何結(jié)論，”亨利·迪爾斯（Henry Dills）說。他是一名攝影師和大提琴手，穿著一件棕色的運(yùn)動外套，戴著一條白色的圍巾，正在觀看表演。他說：“這些機(jī)器開始給我們帶來巨大的陰影。過去只有神明才會如此，現(xiàn)在則是機(jī)器。”
谷歌、Facebook和蘋果都在打造能夠?qū)崟r分析人類情感的服務(wù)。像笛卡爾實驗室和軌道研究所這樣的初創(chuàng)公司利用類似的技術(shù)來分析大量的衛(wèi)星圖像，以了解人類活動和意圖。在通常情況下，人類自身想要了解這些活動和意圖也會非常困難。依賴于深度神經(jīng)網(wǎng)絡(luò)，復(fù)雜的數(shù)學(xué)系統(tǒng)可通過分析大量數(shù)據(jù)來學(xué)習(xí)執(zhí)行任務(wù)，但這些服務(wù)并不完美。
然而，它們的進(jìn)步很快，正迅速從實驗室進(jìn)入現(xiàn)實世界，包括帕格倫的技術(shù)。他和自己的工程師團(tuán)隊使用開源軟件，在谷歌和其他公司內(nèi)部的神經(jīng)網(wǎng)絡(luò)上運(yùn)行。音樂會期間的一些圖像是預(yù)先錄制好的，但在很多情況下，神經(jīng)網(wǎng)絡(luò)實時追蹤了Sunny Tang和Kronos Quartet樂隊的其他部分。帕格倫說:“我想從藝術(shù)中得到的東西可以幫助我們看到我們周圍的世界，這是我們生活的歷史時刻。”
帕格倫最出名的工作是探索政府監(jiān)控的深度，從美國國家安全局的海底電纜竊聽照片到五角大樓全球間諜網(wǎng)絡(luò)圖等。今年，他開始在斯坦福大學(xué)的坎托藝術(shù)中心工作，這里是AI研究的主要中心。但他并不是在玩弄關(guān)于機(jī)器人霸主的舊觀念或文化上的陳詞濫調(diào)，他正探索計算機(jī)視覺的尖端領(lǐng)域正在發(fā)生的事情。
起初，帕格倫想?yún)⒓覱penAI項目，后者是由特斯拉首席執(zhí)行官伊隆·馬斯克（Elon Musk）和初創(chuàng)企業(yè)孵化器Y Combinator總裁薩姆·奧爾特曼（Sam Altman）斥資10億美元創(chuàng)建的實驗室。OpenAI的目標(biāo)是加速AI的發(fā)展，盡管其目標(biāo)是利用AI保護(hù)世界免受此類加速帶來的危險。但OpenAI卻猶豫不決，所以帕格倫去了斯坦福大學(xué)。
帕格倫的新項目觸及了他在政府監(jiān)視工作中所從事的某些相同主題。當(dāng)Kronos Quartet演奏特里·萊利（Terry Riley）的《>與此同時，帕格倫正在解決現(xiàn)代AI自身學(xué)習(xí)帶來的有時神秘、有時令人不安的方式。在很多情況下，神經(jīng)網(wǎng)絡(luò)都能很好地完成被要求做的事情，但即使是設(shè)計這些網(wǎng)絡(luò)的人也無法完全理解為什么它們?nèi)绱擞行АＫ鼈兺ㄟ^分析更多的數(shù)據(jù)來學(xué)習(xí)，比人類更謹(jǐn)慎。這種復(fù)雜性意味著，人類無法真正地分析它們是基于什么做出的決定。