維克托對(duì)話周濤：危險(xiǎn)的數(shù)據(jù)、倫理以及人的未來 【中云網(wǎng)配圖】

【中云網(wǎng) 3月22日 訊】周濤：我們剛才看到了，大數(shù)據(jù)時(shí)代給我們帶來的很多重要的改變。我想討論的是，大數(shù)據(jù)應(yīng)用方面可能帶來的一些危險(xiǎn)。自古以來，我們都有一個(gè)歧視問題，我們可能會(huì)因?yàn)樗且粋€(gè)女孩子，或者她來自一個(gè)特殊的地區(qū)，或者是她教育上的問題，在工作、就業(yè)上發(fā)生歧視，這是我們有一些刻板的印象，或者是我們的一些經(jīng)驗(yàn)，我們認(rèn)為女孩子不大適合做這個(gè)工作，或者某個(gè)地區(qū)的人，他的某些素質(zhì)或人性不大好。

如果我們現(xiàn)在擁有的更多的數(shù)據(jù)，通過所謂的智能招聘軟件，也許我們能夠追蹤一個(gè)人，他在公眾中的表現(xiàn)。從而我們能夠在海量數(shù)量分析中，建一些更復(fù)雜的模型，看看中間的關(guān)聯(lián)，得到一些結(jié)論。當(dāng)你提交一個(gè)簡(jiǎn)歷的時(shí)候，可能你是一個(gè)河南人，可能是一個(gè)女孩24歲，學(xué)中文，是獅子座的，是B型血，所以你可以判斷，她最有可能在兩年內(nèi)就離職，但實(shí)際上沒有離職。這有沒有可能，首先會(huì)使你為你沒有做的一些事付出責(zé)任；第二有沒有可能使得這種歧視，變得更加技術(shù)化更加徹底？

維克托·邁爾·舍恩伯格：剛才提到的問題，確實(shí)是我們過去普遍存在的問題。我們根據(jù)某一個(gè)特定的類型來判斷這個(gè)人的特點(diǎn)，比如性別，因?yàn)槭桥?，我們就覺得你不適合做這項(xiàng)工作。但是，大數(shù)據(jù)的特點(diǎn)就在于，我們之前做出這些決定，是根據(jù)一個(gè)群體的特性，比如說性別，比如來自的地方。我們大數(shù)據(jù)的特點(diǎn)，我們做出決定是根據(jù)他個(gè)人的特點(diǎn)，而不是群體的特點(diǎn)。我們的目標(biāo)，不會(huì)是某一個(gè)個(gè)人，因?yàn)樗淙肓四骋粋€(gè)群體特征，而被誤認(rèn)為有什么問題。

但是這樣的話，也有一個(gè)缺點(diǎn)。當(dāng)你把群體特征拿走之后，這個(gè)群體特征原來可以成為一個(gè)人的借口，現(xiàn)在不可以了。比如你在面試的時(shí)候，你可能會(huì)面試者說，我們不接受女性，因?yàn)槲覀冇X得女性不適合這個(gè)工作。但是她可以提出來，我雖然是女性，但是我本人適合這個(gè)工作。我們拿掉這個(gè)群體特征的話，我們只是說，我們覺得你本人不適合這個(gè)工作，這個(gè)時(shí)候他就沒有借口說了，不是因?yàn)槲冶救瞬贿m合，而是因?yàn)槿后w不適合。這個(gè)答案是更真實(shí)的，也是更讓人難以接受的。

周濤：我們想一下，我們知道以前很多歧視本身，帶著一種自我證明的過程。我們開始可能認(rèn)為女孩子不適合于學(xué)習(xí)很高科技的技術(shù)，于是，我們會(huì)給她提供更少的學(xué)習(xí)這些技術(shù)的教育和職位，過段時(shí)間之后，我們的確發(fā)現(xiàn)，男孩更適合做高科技。這就從某種意義上，似乎證明我們的判斷是正確的。我想問一下，能夠有全體大數(shù)據(jù)分析時(shí)代，你會(huì)不會(huì)為和你具有相似特征的前人所犯的一些錯(cuò)誤或者一些不成功的例子付出代價(jià)。而且由于這種效應(yīng)，使得永遠(yuǎn)不可能有機(jī)會(huì)重新證明你是正確的，或者推翻這些結(jié)論。

維克托·邁爾·舍恩伯格：是的。當(dāng)我們來看群體特征的時(shí)候，我們通常會(huì)有一個(gè)想法，來證實(shí)我們對(duì)群體的看法。比如在美國(guó)，數(shù)據(jù)研究認(rèn)為在黑人居住區(qū)域的犯罪率比較高，這個(gè)時(shí)候警察會(huì)把大部分的警力派到黑人居住的區(qū)域。這個(gè)時(shí)候，他們確實(shí)發(fā)現(xiàn)很多人犯罪。但是實(shí)際上，部分上也是因?yàn)橛懈嗟木斓娜グl(fā)現(xiàn)這些犯罪，所以導(dǎo)致被發(fā)現(xiàn)的犯罪案件的數(shù)量比較多，這是一個(gè)自我證實(shí)的過程。