大數(shù)據(jù)可以幫助人們解決很多對(duì)于個(gè)人來說非常困難的問題。例如它可以幫助企業(yè)降低成本,幫助城市進(jìn)行規(guī)劃,幫助情報(bào)機(jī)構(gòu)發(fā)現(xiàn)恐怖分子之間的聯(lián)系,協(xié)助衛(wèi)生官員預(yù)測(cè)疫情,以及幫助警察提前預(yù)知犯罪等。政策制定者會(huì)越來越傾向于根據(jù)數(shù)據(jù)做出決策,并且參考通過復(fù)雜算法得出的建議來做出決定。但是,如果這些數(shù)據(jù)是關(guān)于個(gè)人,尤其是沒有太多話語權(quán)的普通百姓時(shí),這些算法就會(huì)成為一種壓迫。對(duì)于美國的很多窮人來說,每一次關(guān)于這些數(shù)據(jù)的收集都會(huì)將他們?cè)噲D逃離貧困的努力變?yōu)榕萦啊?img src="/d/file/news/Big_data/2018-05/03e3b2345c2eaa03f9c4ce945a5a4567.jpg" border="0" width="477" alt="大數(shù)據(jù)時(shí)代,窮人可能會(huì)更窮" height="337" style="display: block; margin-left: auto; margin-right: auto;" />
低收入用戶是美國社會(huì)中被監(jiān)視最嚴(yán)重的一部分民眾。據(jù)巴爾的摩大學(xué)(University of Baltimore)法律教授Michele Gilman介紹,這并不是說警察隨時(shí)都在盯著他們,而是說像公共福利項(xiàng)目、兒童福利系統(tǒng)等都在收集大量的用戶數(shù)據(jù),尤其是窮人。在一些特定的區(qū)域,為了能夠?qū)⒐哺@M(jìn)行量化,申請(qǐng)者需要進(jìn)行指紋采集和藥物測(cè)試。一旦人們開始接受這些福利,政府將會(huì)開始監(jiān)測(cè)他們?nèi)绾位ㄙM(fèi)這些資金,并且有時(shí)候也會(huì)在其家中進(jìn)行檢查。通過這些方式收集的數(shù)據(jù)最終會(huì)反饋到警察系統(tǒng),從而形成了一個(gè)監(jiān)測(cè)循環(huán)。
一旦某人的某一次不當(dāng)行為出現(xiàn)在了檔案上,那么他將很難再找到另外一份工作、貸款或者租房。信貸員或者公司人事經(jīng)理會(huì)檢查申請(qǐng)人的個(gè)人記錄,從而來確定這個(gè)人是否有一些不良行為。
渥太華大學(xué)教授Ian Kerr介紹,大數(shù)據(jù)系統(tǒng)不僅會(huì)預(yù)測(cè)一個(gè)人的機(jī)會(huì)大小,同時(shí)他們也可以違反無罪推定的法律原則。在法院系統(tǒng)之外,無罪推定是一項(xiàng)基本原則,也是人的基本權(quán)利。Kerr說,申辯權(quán)(有權(quán)發(fā)表意見)、知情權(quán)、參加聽證會(huì)的權(quán)利以及質(zhì)疑信息的權(quán)利是基本權(quán)利。但是如果我們采用大數(shù)據(jù)來幫助我們做決定,即Kerr所稱的算法正義,那么我們的很多權(quán)利都將不復(fù)存在。
大數(shù)據(jù)的這些隱患已經(jīng)引起了美國聯(lián)邦貿(mào)易委員會(huì)(Federal Trade Commission)的注意,該委員會(huì)在去年九月開始了一個(gè)關(guān)于該主題的工作小組,小組成員討論了大數(shù)據(jù)分析將如何包括或者排除某些特定的人群。一些評(píng)論人警告道,算法有可能根據(jù)別人的行為來剝奪其他人的機(jī)會(huì)。但是,如果善加利用的話,大數(shù)據(jù)也可能為低收入用戶帶來福音。例如,一些公司通過分析一些公司數(shù)據(jù)來計(jì)算低收入用戶的信用分?jǐn)?shù),使得那些在傳統(tǒng)信用體系下信用分?jǐn)?shù)不高、但是又具有其他有價(jià)值信息(例如按時(shí)付款、擁有汽車等)的人們可以獲得更高的信用分?jǐn)?shù)。
毫無疑問,算法可以使得人們做出的決定更加精確有效。大數(shù)據(jù)具有提高人們生活質(zhì)量的能力,而且它也確實(shí)做到了。但是如果缺少了人情味,算法也可能因?yàn)橹蛔非笮识沟蒙鐣?huì)的一些群體更加邊緣化。