編者按：媒體智能頻道推出話題欄目《智能菌》，專注人工智能引發(fā)的社會熱點，每周三、五推出。本文為第20期，討論人工智能引發(fā)的倫理道德問題。轉(zhuǎn)載請聯(lián)系我們獲得授權(quán)（公眾號Smartman163）。
出品 | 媒體智能
策劃 | 定西
編譯 | 晗冰
現(xiàn)在人工智能堪稱無處不在。從我們決定買哪一本書，到預(yù)定哪一趟航班，從是否能夠找到合適的工作，到是否能夠獲得銀行貸款，甚至于治療各種疑難雜癥，我們生活的方方面面都有著人工智能的影子。
關(guān)于我們的生活，很大程度上已經(jīng)可以由人工智能這種復(fù)雜的軟件系統(tǒng)來自動決策。毋庸置疑，在諸多科技界企業(yè)的推動下，人工智能技術(shù)在過去幾年中取得了令人驚訝的巨大進步，而且業(yè)內(nèi)很多人也相信人工智能會讓我們的生活變得更好。
這種趨勢不可阻擋，自然而然。整個社會也在為人工智能初創(chuàng)企業(yè)注入大量資金，而包括亞馬遜、Facebook以及微軟等高科技公司都針對人工智能開設(shè)了新的研究實驗室?，F(xiàn)在的軟件就是人工智能，這種說法現(xiàn)在來看并不夸張。
很多人預(yù)計，人工智能對社會的沖擊甚至要大于互聯(lián)網(wǎng)。當(dāng)被問及在這個千變?nèi)f化的世界中，人工智能技術(shù)將要為人類帶來何種影響時，很多技術(shù)專家毫無懸念地將問題集中在道德方面。
如何保證公平受益？
隨著人工智能的普及，機器系統(tǒng)在高風(fēng)險決策領(lǐng)域的作用越來越重要——從信貸、保險再到第三方?jīng)Q策以及醫(yī)療保險、假釋等問題。未來，人工智能技術(shù)將代替人工決定誰會獲得重要機遇，而誰又將被拋棄，由此將會引發(fā)一系列關(guān)于社會公正的問題。
譬如在生物醫(yī)學(xué)領(lǐng)域，人工智能有著驚人潛力。人工智能系統(tǒng)有助于分析基因組學(xué)、蛋白質(zhì)組學(xué)和新陳代謝組等的實驗數(shù)據(jù)，收集分析電子病歷和相應(yīng)的健康數(shù)據(jù)。利用聚類分析技術(shù)能夠幫助科學(xué)家判斷新綜合征，而模式識別技術(shù)能夠?qū)⒓膊∨c療法相匹配。但是由于現(xiàn)有的醫(yī)療條件的不平衡，會導(dǎo)致少部分人才能夠從先進診療技術(shù)中受益。
另一方面，人工智能，特別是機器學(xué)習(xí)技術(shù)的完善往往取決于訓(xùn)練數(shù)據(jù)。微軟研究人員最近指出，當(dāng)采集的數(shù)據(jù)存在偏差時，用這種數(shù)據(jù)所訓(xùn)練的人工智能系統(tǒng)也會存在相應(yīng)偏差，其產(chǎn)生的模型或者結(jié)果勢必會復(fù)制并放大這種偏差。在這種情況下，人工智能系統(tǒng)所作出的決策將會產(chǎn)生差別效應(yīng)。而這種不公平要比人為偏見和不公要隱晦的多。
“現(xiàn)在的挑戰(zhàn)是讓每個人都能夠從中受益。”——谷歌研究主管Peter Norvig
Peter Norvig是谷歌研究主管，也是機器學(xué)習(xí)領(lǐng)域的先驅(qū)人物。在他看來，大數(shù)據(jù)推動下的人工智能技術(shù)獲得了前所未有的成功，但關(guān)鍵問題在于如何確保這些系統(tǒng)能夠真正有效地改善整個社會，而不僅僅只是讓那些控制人工智能系統(tǒng)的群體收益。“通過實踐證實，人工智能在執(zhí)行各種任務(wù)時非常有效，從圖像識別，到自然語言理解和撰寫，再到疾病診斷，人工智能都發(fā)揮出了重大作用，” Peter Norvig指出，“現(xiàn)在的挑戰(zhàn)是如何確保每個人都能夠從中受益。”
如何審查機器運行？
科學(xué)家之所以會擔(dān)憂人工智能引發(fā)公平問題，最大的根源在于現(xiàn)有軟件的復(fù)雜性意味著我們無法準(zhǔn)確衡量人工智能系統(tǒng)為什么要這樣做。現(xiàn)在的人工智能技術(shù)主要基于機器學(xué)習(xí)，但對于人類來說，其并不能真正搞清楚這種系統(tǒng)到底是如何運行的，所以我們不得不信任它。從根本上說，問題關(guān)鍵在于找到新的方法去檢測和審查人工智能的運行。
哈佛法學(xué)院互聯(lián)網(wǎng)法學(xué)教授Jonathan Zittrain則認(rèn)為，關(guān)于人工智能潛在的危險是隨著計算機系統(tǒng)變得越來越復(fù)雜，會使審查面臨越來越多的阻礙。他指出，“我擔(dān)心隨著系統(tǒng)的復(fù)雜性和緊密耦合性越來越高，人類的自主性會越來越少。如果‘我們設(shè)定規(guī)則又忘記了規(guī)則’，我們會對系統(tǒng)如何進化感到懊悔。在那種情況下，甚至于倫理道德都無從考慮。”