據(jù)英國《衛(wèi)報》報道，科技巨頭的算法對人類生活影響越來越大，我們應該怎樣應對？在最近在德國柏林舉行的國際互聯(lián)網(wǎng)研究者協(xié)會（Association of Internet Researchers）第17屆年度會議上，數(shù)位與會的女性學者討論了這一話題。
在20世紀70年代初，漢娜·阿倫特（Hannah Arendt，1906年10月14日—1975年12月4日，20世紀最偉大、最具原創(chuàng)性的思想家、政治理論家之一）對美國五角大樓越戰(zhàn)時期的政策進行了嚴厲批評，她說：“決策者沒有判斷力，他們只知道計算。”
如果決策者也玩“概率游戲”，這是發(fā)揚一種賭徒而非政治家的精神。他們“計算現(xiàn)實問題時憑借的是完全非理性的信心”，所考慮的范圍非常有限，忽略剩余的或潛在的問題。
微軟研究院首席研究員凱特·克勞福德（Kate Crawford）稱：隨著人工智能和機器學習的發(fā)展，科技的影響力越來越大。我們對科技的信心正再次變得非理性。”
如在對人口水平進行預測時，所采用的算法忽略了那些人和那些事物應該計算在內(nèi)，包括“那些人是從監(jiān)獄里釋放出來，你在醫(yī)院時能得到什么樣的待遇，你看什么樣的新聞” 等。那么，我們?nèi)绾螒獙@個“未來50年我們面臨的最大挑戰(zhàn)”？
克勞福德及其他三位女性專家參加了國際互聯(lián)網(wǎng)研究者協(xié)會第17屆年度會議。讓她們產(chǎn)生鳴的一個話題是：隨著“機器邏輯計算將人類和非人類的統(tǒng)治者聯(lián)系在一起”的出現(xiàn)，我們面臨一個亟待解決的問題。
克勞福德認為，最近引起國際公憤的Facebook對一張普利策獎獲獎照片的審查，只是這類問題的冰山一角。她說，在數(shù)量眾多的自動化和半自動化的幕后決策中，這是一個影響巨大的例子，“它們（機器邏輯計算）被植入在后端系統(tǒng)，在多個數(shù)據(jù)集的接口處發(fā)揮作用，沒有面向消費者的接口。我們根本不清楚它們?nèi)绾芜\作及遵循什么的規(guī)則。”
對于這些擔憂，德國錫根大學數(shù)字媒體教授卡洛琳·格利茨(Carolin Gerlitz)也有類似的共鳴。她說，今天的數(shù)字公司“允許我們從事某項活動，但是以精準控制、數(shù)據(jù)化（datified）和預先準備好算法的方式。他們讓一項活動可以進行，但又讓這項活動可以計算和測量。
荷蘭皇家科學院院長、會議主題發(fā)言人何塞·蒂克（José van Dijck）則表示，數(shù)據(jù)化（Datification）是她所謂“平臺型社會(the platform society)” 的核心邏輯——在“平臺型社會”中，公司通過承諾提供更好和更有效的服務，在欺騙公眾的同時掩蓋自己私利，從而更有效繞過傳統(tǒng)機構、標準和法律。
何塞·蒂克及其同行有一個剛剛萌芽、迫切的想法。她們?yōu)檫@一跨學科研究制定了一個緊迫的日程表——在微軟研究院，克勞福德也在領導這一研究。同時，包括新萊弗爾梅未來智能中心（Leverhulme Centre for the Future of Intelligence）在內(nèi)的許多研究機構，也在進行這方面的研究。
這些觀點與舊的理論有沖突，舊的理論認為這是消費者有意識的舉動，但如果是這樣，消費者理論上應該可以退出（該平臺）。然而，來自柏林公益組織Tactical Tech的菲克·簡森（Fieke Jansen）承認，即使是數(shù)字權力活動家也必須通過電子郵件進行聯(lián)系。全球五大高科技公司以及它們背后極為集中的財政資源，在“權力和財富越來越集中的社會中” 走在了最前沿。
簡森問道：“我們怎么讓它們領先那么遠。”
克勞福德則認為，高科技公司變得如此強大有非常實際的原因。她說：“我們正試圖把大部分責任歸結到個人身上，卻避而不談‘邪惡平臺’的問題，而在現(xiàn)實中，有很多原因讓個人無法承擔太多責任。（如果不使用這些平臺）人們很可能失去工作、朋友和家庭，這代價是如此之高。”她表示，即使你設法避免使用Facebook、Gmail或iPhone等，我們?nèi)允?ldquo;廣泛跟蹤的宇宙”的一分子。
她說：“我們?nèi)匀徽J為應該有機構對我們在個人層面參與這些過程負責，但我真的不認為我們可以做得更多，或者至少這個意義上來說，我們能做的在非常迅速地減少。”