注：本報告為2016年7月7日由白宮和紐約大學信息法律協(xié)會聯(lián)合舉辦的“AI Now”人工智能研討會內(nèi)容之總結。中文全文由網(wǎng)易智能獨家編譯，網(wǎng)易智能為網(wǎng)易科技旗下專注AI、VR/AR等前沿科技領域的內(nèi)容平臺和社群，服務于人工智能、VR\AR等行業(yè)的從業(yè)者和關注者。轉載請注明來源、作者及本文鏈接，違者必究。（微信公眾號搜索“豬廠智能菌”并關注，回復“紐約大學報告”或“AI Now”獲取1.5萬字PDF中文版和英文版全部報告。）
來源 / AI Now《The AI Now Report》
譯者 / 孫文文 費寧 志文 阿樹 止水 倪盛
AI Now與會人員名單
聯(lián)合主席：
凱特·克勞福德（Kate Crawford） 微軟研究院、紐約大學
梅雷迪思·惠特克（Meredith Whittaker）谷歌開放資源研究與安全團隊創(chuàng)始人
核心研究團隊：
瑪?shù)铝?middot;克萊爾·伊莉絲（Madeleine Clare Elish）哥倫比亞大學
梭倫·巴羅喀斯（Solon Barocas）微軟研究院
埃倫·普拉塞克（Aaron Plasek）哥倫比亞大學
卡迪迦·費里曼（Kadija Ferryman）新學院
程序委員會：
瑞安·卡洛（Ryan Calo）華盛頓大學
埃德·菲爾頓（Ed Felten）白宮科技政策辦公室
埃里克·霍維茨（Eric Horvitz）微軟研究院
塔拉·里昂（Terah Lyons）白宮科技政策辦公室
海倫·尼森鮑姆（Helen Nissenbaum）紐約大學
穆斯塔法·蘇萊曼（Mustafa Suleyman）谷歌DeepMind負責人
拉坦亞·斯威尼（Latanya Sweeney）哈佛大學
黃安娜（Nicole Wong）前美國政府CTO
前 言
人工智能（Artificial Intelligence，簡稱AI）是一系列技術的集合，其下包括機器學習、推理、感知和自然語言處理等。人工智能的概念和應用65年前就已開始，不過最近AI的進步和應用讓這種技術再次成為熱議。隨著AI被更廣闊地應用到人類社會和經(jīng)濟生活各個方面，新的機遇和挑戰(zhàn)隨之而生。其巨大的潛在影響讓人類不得不謹慎思考AI技術的發(fā)展與應用。
于今年7月舉行的“AI Now”研討會是由白宮科技政策辦公室和美國國家經(jīng)濟委員會聯(lián)合推動的一系列研究的最后一個環(huán)節(jié)。此前的一系列研究分別從不同的角度對AI進行了分析研究，從政策法規(guī)到AI的安全控制，再到AI公益以及如何挖掘AI的更多潛能。這次“AI Now”則主要就未來十年AI在社會和經(jīng)濟領域的影響進行討論。來自全球多個領域的專家學者集聚一堂，發(fā)表自己的觀點。討論的問題包括：現(xiàn)階段AI的迅速發(fā)展造成了哪些問題？如何更好地理解與使用AI來創(chuàng)造更公平公正的未來？
社會和經(jīng)濟的問題多不勝數(shù)，本次“AI Now”主要圍繞“醫(yī)療”、“勞工就業(yè)”、“AI公平”以及“AI道德”準則展開討論。
之所以選擇“醫(yī)療”和“勞工就業(yè)”作為主要話題，是因為目前這兩個領域中AI滲入廣泛，AI所能帶來的問題在這兩個領域中較為突出和明顯。而“AI公平”和“AI道德”則是未來大家都關注的問題：AI會有助于世界大同還是會加劇社會不公？以及如何確保AI的利益被全體人類享用？
該研討會的舉行旨在讓AI能夠更好地造福人類社會。通過眾多專家學者聚集一堂進行討論的方式，本次“AI Now”研討會對人工智能學界內(nèi)外都具有顯著意義。
問題和建議
研討會對未來AI所可能造成的情況做出了預見，并分別給出相應的建議。需要聲明的是，下列建議融合了全體與會人員的智慧，并不代表個人或某組織的立場。
隨著AI愈加緊密地被應用到社會經(jīng)濟生活的方方面面，以下列出的問題和對應的建議可以作為投資者和相關領域從業(yè)者在對來的參考指南。
1、問題：AI的發(fā)展和應用有賴于特定的基礎設施和人、物資源。這些基礎資源的短缺無疑會限制AI的發(fā)展，對這些基礎設施和資源的掌握在AI發(fā)展前期變的至關重要。
建議：從多個渠道改善發(fā)展AI的資源基礎。注重數(shù)據(jù)集、計算機、相關人才教育培訓等配套領域的建設。
2、問題：雖然目前AI水平還在初級，不過在多個領域AI已經(jīng)作為人工輔助的角色存在，并且對勞動關系產(chǎn)生了影響。奧巴馬經(jīng)濟顧問委員會的主席杰森·弗曼（Jason Furman）就表示，低技術的體力勞動是最有可能被AI和自動化機械取而代之的職位。如果機器人開始和人類競爭工作，人力資源的分配也將迎來變革。
建議：更新自己的思維和技能，來應對AI參與所帶來的就業(yè)結構的改變。未來AI機器將承擔絕大多數(shù)低技術水平的工作職位，人們需要調(diào)整自己的技能儲備和收支方向以應對新形勢。
3、問題：AI和自動化的過程通常都是在人們目所不及的幕后進行。缺少了人類的參與，機器可能做出有失公允或不慎恰當?shù)臎Q定。隨著AI應用的進一步增長，對AI判斷和勘誤將變得更加重要，也更加困難。
建議：支持AI校準和勘誤的研究，AI錯誤危害評估程序也應提上日程。這些研究應和AI的突飛猛進配套發(fā)展，就像人類系統(tǒng)中司法之于行政。如此能夠及時發(fā)現(xiàn)AI犯下的錯誤，并避免嚴重后果。
4、問題：針對AI模式下公私機構公平和問責制的研究似乎與當前美國一些法律相忤，比如計算機欺詐與濫用法案（CFAA）和數(shù)字千年版權法案（DMCA）。
建議：需要澄清的是，無論是計算機欺詐與濫用法案還是數(shù)字千年版權法案，都沒有限制相關研究。
5、問題：盡管AI正以飛快的速度被運用在醫(yī)療、勞工等諸多領域，但目前人類沒有一個公認的辦法來在評估AI所帶來的影響。
建議：支持AI影響評估系統(tǒng)的研究。而且該領域的研究應該和政府機構通力合作，使成果能為政府行政所用。
6、問題：那些因部署AI而權益受到損害的人，其聲音往往被忽視。
建議：在打造AI系統(tǒng)的時候，受影響者的意見應該被聽取。AI應由各方共同設計以免有失公允和太過激進。
7、問題：AI的研究主要集中在電子技術上，對于人性方面問題的關注常常不足。在未來，計算機科學領域的成員將益加呈現(xiàn)同質(zhì)化和單一化對特點，這不利于AI開發(fā)者的眼界和經(jīng)驗，進而影響到AI產(chǎn)品的打造。
建議：AI研究員和開發(fā)者應該盡量多元化，開發(fā)人員的多樣與多元也會帶來更豐富紛呈的AI產(chǎn)品。未來AI領域應該多多支持跨學科研究，從而使得AI系統(tǒng)能夠融合電子計算、社會科學以及人文氣息。
8、問題：現(xiàn)有的道德準則已經(jīng)不能應對AI在現(xiàn)實中所面臨問題的復雜性。（比如在醫(yī)療、執(zhí)法、犯罪判決以及勞務等等）同時，在大學里的計算機課堂上，盡管這些理工課程也逐漸開始重視道德教育，然而并未徹底貫徹到實踐中。
建議：同美國人工智能協(xié)會（AAAI）、美國計算機協(xié)會（ACM）以及電器和電子工程師協(xié)會（IEEE）這些專業(yè)機構進行合作，推動產(chǎn)生可以面對新形勢的道德準則。同時在學校課堂上貫徹落實這些新道德準則的教育。每個有志于計算機科學的學生在專業(yè)課之外也應接受公民權利、自由等道德教育。相應的，那些有AI滲入的領域（比如醫(yī)療場所）的從業(yè)人員也應該對這些新道德標準有所知悉。
目前關于人工智能的四個關鍵性問題
我們現(xiàn)在將對目前關于人工智能的四個關鍵問題進行深入探討，為讀者提供一個了解業(yè)內(nèi)專家見解以及建議的機會。相關探討包括每個關鍵問題所面臨的挑戰(zhàn)、機遇以及可采用的干預措施。
1.社會不公
人工智能系統(tǒng)如何造成偏見以及歧視等社會不公現(xiàn)象？
人工智能系統(tǒng)在高風險決策領域的作用越來越重要——從信貸、保險再到第三方?jīng)Q策以及假釋問題。人工智能技術將代替人工決定誰會獲得重要機遇，而誰又將被拋棄，由此將會引發(fā)一系列關于權利、自由以及社會公正問題。
有些人認為人工智能系統(tǒng)的應用有助于克服人類主觀偏見帶來的一系列問題，而有些人則擔心人工智能系統(tǒng)將會放大這些偏見，反而會進一步擴大機會的不均等。
在這場討論中，數(shù)據(jù)將會起到至關重要的作用，引發(fā)人們的強烈關注。人工智能系統(tǒng)的運行往往取決于其所獲得的數(shù)據(jù)，也是這些數(shù)據(jù)的直觀反映。其中也包括這些數(shù)據(jù)的來源以及收集過程中的偏差。從這方面來講，關于人工智能的影響是與相應的大數(shù)據(jù)技術密切相關的。
從廣義上講，數(shù)據(jù)偏差有兩種形式。第一種是采集的數(shù)據(jù)客觀上不能夠準確反映現(xiàn)實情況（主要歸因于測量方法的不準確；數(shù)據(jù)采集不完整或過于片面；非標準化的自我評價以及數(shù)據(jù)采集過程中的其他缺陷）。第二種在數(shù)據(jù)采集的過程中主觀上存在結構性偏差（諸如在關于職業(yè)數(shù)據(jù)的采集中有目的性地通過主觀性的重男輕女來預測職場成功率）。前一種的數(shù)據(jù)偏差可以通過“凈化數(shù)據(jù)”或者改進數(shù)據(jù)采集過程來加以解決。但后一種則需要復雜的人工干預措施。值得注意的是，雖然有很多機構都為解決這種問題做了大量的工作，但對于如何“檢測”數(shù)據(jù)偏差尚無定論。
當采集的數(shù)據(jù)存在上述偏差時，用這種數(shù)據(jù)所訓練的人工智能系統(tǒng)也會存在相應偏差，其產(chǎn)生的模型或者結果不肯避免的會復制并放大這種偏差。在這種情況下，人工智能系統(tǒng)所作出的決策將會產(chǎn)生差別效應，從而引發(fā)社會不公。而這種不公平要比人為偏見和不公隱晦的多。
在以風險控制為主導的行業(yè)中，隨著人工智能系統(tǒng)的廣泛應用，導致人與人之間的細微差別異化對待等現(xiàn)象顯著增加，在保險以及其他社會擔保行業(yè)尤為如此。人工智能系統(tǒng)的應用能夠使公司更加有效地通過“逆向選擇”來識別特定群體以及個人，從而有效避免風險。
諸如在醫(yī)療保險領域，人工智能系統(tǒng)會對投保人的特征以及表現(xiàn)行為進行分析，并對那些被識別為特殊疾病或者是未來發(fā)病率高的投保人收取更多保費。在這種情況下，對于那些健康狀況不佳且經(jīng)濟能力差的人群尤為不利。這就是為何批評者經(jīng)常會指責稱，即便人工智能系統(tǒng)的預測準確，保險人行為理性，但效果卻常常是帶來負面影響。
保險業(yè)的競爭或許會加劇這種發(fā)展趨勢，最終人工智能系統(tǒng)的應用或許會加劇這種不平等性。當然，相關反歧視法律法規(guī)中的規(guī)范性原則能夠為解決這些問題帶來幫助，雖然這種方法可能不是最有效、最公平的。此外，對人工智能系統(tǒng)進行設計和部署也很重要，但現(xiàn)有的法律框架或許會使相應研究受到阻礙。諸如如計算機欺詐和濫用法（CFAA）和數(shù)字千年版權法案（DMCA）都對這方面研究進行了限制，因此當下也需要對現(xiàn)行法規(guī)進行改革，確保必要的研究能夠順利進行。
人工智能將受益少數(shù)人？
人工智能系統(tǒng)為經(jīng)濟價值的產(chǎn)生帶來了新的方式，也對經(jīng)濟價值的分配產(chǎn)生了新的影響。在某種程度上，人工智能系統(tǒng)的價值分配會使一部分群體受益，從而延續(xù)或加劇現(xiàn)有的薪資、收入以及財富分配差距。
那些有能力研發(fā)人工智能技術的組織將會加劇這種不平等性。據(jù)預測，人工智能是一個每年市值達到數(shù)十億美元的龐大產(chǎn)業(yè)。開發(fā)人工智能技術需要大量的前期投資，其中包括海量的計算資源以及大數(shù)據(jù)，兩者的成本都非常之大。這導致人工智能的開發(fā)和應用被限制在一個特定的范圍之內(nèi)。在這種情況下，那些擁有強大數(shù)據(jù)以及計算能力的企業(yè)才能夠通過人工智能系統(tǒng)深入了解市場動態(tài)，從而獲取更多優(yōu)勢，為自己帶來“富者更富”的馬太效應，帶來更多成功。
從另一方面來說，人工智能以及自動化系統(tǒng)能夠降低商品和服務成本，如果這些降低的成本能夠使消費者受益，那么人工智能就可以縮小貧富差距。在這種情況下，人工智能系統(tǒng)能夠提高整個社會的生活水平，甚至于引發(fā)一個漸進式的再分配效應。
此外，人工智能也會帶來全新的生活方式。在人工智能環(huán)境下，那些工作落伍的人有機會需求獲取資源的新方式，而工作受到影響的人也能夠通過人工智能創(chuàng)造新的就業(yè)機會。換而言之，人工智能能夠緩解勞動力危機，讓人們自由追求生活以及工作新方式，從而提高社會的整體福利。
盡管如此，一些評論家指出，人工智能系統(tǒng)會使得某些工人的技能多余化，那些被自動化所取代的工人不得不尋求新的就業(yè)機會。即便這部分工人能夠找到新的工作，這種工作也常常是低附加值的，且工作穩(wěn)定性更低。從這個角度將，人工智能以及自動化系統(tǒng)反而消除了就業(yè)機會。
更進一步，如果學習新的工作技能非常昂貴，工人們或許會認為這種職業(yè)技能培訓與新工作并不成正比。在這種情況下，人工智能系統(tǒng)不僅會增加社會不公，更會帶來永久性的失業(yè)以及貧窮。這就是為何理解人工智能系統(tǒng)對勞動力的潛在影響是理解其對經(jīng)濟平等性影響的重要方面。
和以往許多技術一樣，人工智能技術也往往反映了其創(chuàng)建者的價值觀。因此，也可以通過在人工智能開發(fā)、部署、維護階段的多元化來推動人工智能技術的平等性。
當前，在人工智能甚至于整個計算機科學家技術行業(yè)，女性以及少數(shù)民族從業(yè)人員所占比例還很少。這種現(xiàn)狀也在一定程度上導致整個技術缺乏包容性，導致一定的偏見，延續(xù)或限制相關從業(yè)者對其他群體的考慮。
人們也越來越清楚的認識到，人工智能領域從業(yè)者的多樣性有助于人工智能系統(tǒng)滿足不同人群的利益。為了解決偏見、歧視和不平等問題，人工智能團隊需要一個更廣泛的視角。
2. 勞工關系
目前有關就業(yè)和AI系統(tǒng)的討論往往都集中在對人們未來將會失業(yè)的擔憂上。最新的研究表明，還存在更加復雜、影響更加直接的問題，這些問題不僅僅影響勞工市場，還影響雇主與雇員之間的關系、權力動力學、職業(yè)責任和工作在人類生活中的角色。
許多傳統(tǒng)經(jīng)濟研究人員正在密切追蹤美國國內(nèi)勞工市場和企業(yè)機構，以此來考量AI系統(tǒng)的影響。這類研究可帶來非常重要的定性數(shù)據(jù)，能夠促進對宏觀經(jīng)濟趨勢和勞工供需狀況的理解，比如未來將會有多少工作崗位。
與此同時，社會科學研究則評估工作屬性和工作動力的改變正在如何改變?nèi)藗兊娜粘Ｉ铙w驗。這兩個研究視角對于衡量AI系統(tǒng)短期對勞動力的社會影響和經(jīng)濟影響都必不可少。
AI會影響工作崗位需求嗎？
自動化技術在經(jīng)濟中的角色遠非新議題，事實上對于AI系統(tǒng)影響的考慮是出現(xiàn)于長期以來的討論。
雖然表面來看勞工需求會隨著自動化技術的日益普及而下降，畢竟需要做的工作將會很有限，但也有經(jīng)濟學家并不這么認為，他們稱該觀點是“勞動合成”謬論。他們指出，隨著一個行業(yè)的生產(chǎn)力的提升（由于自動化技術或者其它因素），新行業(yè)也會誕生，因而會產(chǎn)生新的勞工需求。例如，1900年農(nóng)業(yè)在美國勞動力中的占比為41%，到2000年該占比只有2%。兩位勞工經(jīng)濟學家大衛(wèi)·奧特爾（David Autor）和大衛(wèi)·多恩（David Dorn）稱，即便出現(xiàn)這種劇變，失業(yè)率長期來看并沒有出現(xiàn)上升，就業(yè)人口比率實際上反而出現(xiàn)提升。另外兩位經(jīng)濟學家詹姆斯·亨廷頓（James Huntington）和卡爾·弗雷（Carl Frey）則給出了可怕的預言：AI系統(tǒng)將會大大減少工作崗位。
還有人在爭論勞動市場的變化和波動是否與技術進步有關，是否只是因經(jīng)濟政策而出現(xiàn)。這類看法聚焦于現(xiàn)有的法律體系和監(jiān)管機制對于AI和自動化系統(tǒng)的發(fā)展應該擔當什么樣的角色。例如，羅伯特·戈登（Robert Gordon）認為當前的創(chuàng)新浪潮其實并沒有它們表面上看起來那么具有變革性。不少持相反意見的人則稱，勞動市場正因為技術變化而發(fā)生重要轉變。這些人包括約瑟夫·斯蒂格利茨（Joseph Stiglitz）和拉里·米歇爾（Larry Mishel），他們認為，要保護勞動力，就必須要對AI和自動化系統(tǒng)相關的監(jiān)管和其它政策變化上保持高度的重視。
奧特爾、多恩等經(jīng)濟學家發(fā)現(xiàn)“就業(yè)兩極分化”現(xiàn)象正變得非常明顯，即中等技能崗位在減少，而高等技能和低等技能的崗位則在增加。雖然未來可能會出現(xiàn)新的崗位，但它們往往都收入比較低，不受歡迎。
例如，許多支持AI系統(tǒng)的工作事實上需要由人類去完成，他們需要維護那些基礎設施，照顧系統(tǒng)的“健康狀況”。這種勞動力往往不大顯眼，至少從媒體的報道和人們對AI的印象來看是這樣。因此它往往受到低估。這類工作包括負責清潔辦公室和維護工作的清潔工，負責維修服務器故障的維修工，以及有位記者所說的“數(shù)據(jù)衛(wèi)生工”（能夠“清理”數(shù)據(jù)，為數(shù)據(jù)分析做好準備）。
AI系統(tǒng)對勞動力的影響相關的問題應當不僅僅包括未來是否會創(chuàng)造出新崗位，還應當包括那些崗位會否是能維持生計的體面工作。
此外，有關AI系統(tǒng)和勞工市場未來的討論通常都專注于傳統(tǒng)上被認為是低收入的工人階級崗位，如制造業(yè)、卡車運輸、零售或者服務工作，但研究表明，未來各行各業(yè)都將受到影響，其中包括需要專業(yè)訓練或者高學歷的專業(yè)工作，如放射學或者法律。關于這一點，未來將需要解決職業(yè)責任和義務方面的新問題。
AI將會如何影響主雇關系？
近年來，研究人員開始研究依靠大數(shù)據(jù)的AI和自動化系統(tǒng)（從Uber到應用于大型零售商的自動化調(diào)度軟件，再到工作間監(jiān)視）正在如何改變雇主與雇員之間的關系。
研究發(fā)現(xiàn)，雖然這類系統(tǒng)可以用來賦能員工，但該類技術也可能會引發(fā)大問題，如剝奪員工權利，加劇就業(yè)歧視問題，以及催生不當勞動行為。
例如，AI驅動的勞動力管理和調(diào)度系統(tǒng)正越來越多地被用來管理勞動力，助力按需經(jīng)濟的增長和“朝不保夕族”（precariat）的崛起。雖然部分研究人員稱恰當?shù)恼{(diào)度能夠帶來很有價值的彈性，但到目前為止，更多的研究發(fā)現(xiàn)受該類系統(tǒng)管制的員工存在情緒緊張和缺乏安全感問題。
由這類系統(tǒng)管理的員工的不利體驗包括長期不充分就業(yè)，財務狀況不穩(wěn)定，缺少傳統(tǒng)全職員工能夠獲得的福利保障，無力為家庭或者自我照顧（又或者因為忍受不了該類工作往往要求的隨時待命性質(zhì)而尋找別的工作）做規(guī)劃。此外，受這些問題影響的員工更多是女性和少數(shù)族裔。
另外，基于AI系統(tǒng)的新遠程管理模式會加大將“系統(tǒng)”所做的嚴重影響員工的決策歸責于雇主的難度。因此，員工更容易受到剝削。
例如，像Uber這樣的由大數(shù)據(jù)和AI驅動的平臺會遠程控制行駛路線、定價、報酬甚至人際交流方面的標準——這些決定傳統(tǒng)上說通常都有人工親自管理。
除了模糊化特定決策的性質(zhì)和邏輯之外，這類遠程管理通常并不被認為是“雇員管理”。
由于這些新管理模式不大符合現(xiàn)有的監(jiān)管模式，像Uber這樣的公司會將自己標榜為技術公司，而非雇員的管理者。按照這一理念，這類公司將自己視作促進連接的平臺，因此不會像傳統(tǒng)雇主那樣對雇員負責。依照這種模式，雇員最終要承擔權益保障（如減輕稅項負擔、醫(yī)療保健和其它的勞工保障）和潛在救濟模式的就業(yè)帶來的風險。
3. 醫(yī)療健康
像我們現(xiàn)在所看到的大多數(shù)已被應用到醫(yī)療健康領域的AI系統(tǒng)，它們幾乎都依賴于大型數(shù)據(jù)庫，這些AI系統(tǒng)會通過各種復雜的統(tǒng)計模型和機器學習技術，從其所收集到的海量數(shù)據(jù)中，自動提煉出各種重要信息。
那些已投入使用的醫(yī)療數(shù)據(jù)信息源（仍處在不斷增長當中）——包括電子病歷（EHRs）、臨床和醫(yī)保數(shù)據(jù)庫、從各類消費電子產(chǎn)品和App上傳來的健康數(shù)據(jù)——目前已經(jīng)被大量地應用到AI系統(tǒng)的實踐，這些AI系統(tǒng)具有極大的能改善社會醫(yī)保水平的潛力。
無論是臨床診斷、病人護理，還是施藥；無論是藥品生產(chǎn)、組織管理，還是醫(yī)保信息交互，這些AI系統(tǒng)都為醫(yī)療從業(yè)者的工作起到了極大的助力。
AI是如何被融入到醫(yī)學研究和醫(yī)療健康的？
將AI系統(tǒng)融入到醫(yī)學研究，具有令人極為欣喜的應用前景，它能幫助我們更好地理解那些疾病的病理，幫助我們開發(fā)出更多的新式治療手段，實現(xiàn)更為精準的醫(yī)學診斷，甚至還能私人訂制地為個人生產(chǎn)出特制的藥品。
然而，鑒于目前仍存在的將AI應用到醫(yī)療領域的局限和偏見，它們或將阻礙這些應用前景的實現(xiàn)，而這就需要研究人員更為細心謹慎地去探索這一前沿的技術。
目前，這些將AI技術應用到醫(yī)療領域的局限，包括有不完整或不準確的研究數(shù)據(jù)，即未含蓋到特定的少數(shù)群體，除此之外，尤以美國醫(yī)保系統(tǒng)為代表的復雜醫(yī)療補貼激勵制度，也將在一定程度上阻礙到了AI醫(yī)療技術的應用。舉個簡單的例子，目前的一些醫(yī)療補貼制度會更支持個別種類的藥物研發(fā)，或是更傾向于補貼個別治療方案。
醫(yī)療研究數(shù)據(jù)時常會表現(xiàn)出客觀、通用的屬性，但在實際應用的過程中，這些研究結論往往會表現(xiàn)出片面、暫時和只針對某些團體或病癥的特性，而AI系統(tǒng)根據(jù)這些“片面”數(shù)據(jù)所分析和建立出的模型，可能會引出、建立或是衍生出一些錯誤的猜測。
所幸的是，這樣的錯誤情況是可以避免的。如果一個AI系統(tǒng)所收集的數(shù)據(jù)不存在上面我們所提到的那些瑕疵（假設這點是可以被保證的），或是該AI系統(tǒng)所使用的數(shù)據(jù)框架像隨機對照試驗方法(randomized control trials, RCTs)或是其它公共醫(yī)療數(shù)據(jù)庫那樣，具有自行矯正這些問題的能力，能減小其內(nèi)在錯誤偏差的話，它就能有效地避免重大誤差的出現(xiàn)。
假設這些誤差微小到可被忽略，將AI系統(tǒng)融入到醫(yī)療健康研究和臨床實踐中心的一個最有可能實現(xiàn)的應用前景，是讓AI去協(xié)助醫(yī)生進行病癥診斷，從海量數(shù)據(jù)中發(fā)現(xiàn)規(guī)律性的模式，從而幫助醫(yī)生更早地揪出那些藏匿在身體深處的“狡猾”病灶。
事實上，AI系統(tǒng)目前已經(jīng)可以完成對部分病癥的診斷了，這其中就包括了白血病。在檢查和臨床護理環(huán)節(jié)，AI系統(tǒng)在一些情況下，也有幾率能減少，甚至預防誤診情況的出現(xiàn)。須知，誤診是可以致命的，AI輔助診斷技術的價值之高，可想而知。
在這方面，AI系統(tǒng)在診斷和確立病癥的環(huán)節(jié)上，正扮演越來越重要的角色。然而，也正是因為如此，研究人員必須警惕，要避免出現(xiàn)因AI錯誤猜測，而推斷出“正常”或是“平均”等健康狀況描述的情況的發(fā)生。
類似的，我們只需要回顧一下美國在1973年前的那段歷史，就想象出當AI出現(xiàn)誤診時，會發(fā)生什么樣慘劇。彼時，美國精神病學協(xié)會（American Psychiatric Association）將同性戀作為一種精神疾病列入到了它權威的精神病診斷和統(tǒng)計手冊當中，這樣一來，悲劇的出現(xiàn)就不可避免了。
同樣的，當AI系統(tǒng)被直接地應用到病人護理時，它們將涉足到診斷和臨床管理的方方面面，而這也時常將隔開看護者同病人之間的距離，所以，適當?shù)孛鞔_出AI“專業(yè)程度”的局限，是非常重要的。
一名人類外科醫(yī)生在上崗之前，會先上醫(yī)科大學，在經(jīng)歷過層層嚴苛的考核后，他們的醫(yī)術才能獲得世人的承認，然而，我們要如何造出一個出色的AI大夫來協(xié)助，或者甚至是取代一個有“文憑”的人類名醫(yī)呢？
這樣一個AI醫(yī)療系統(tǒng)意味著它需要具有絕對準確的專家級權威水平，不會出現(xiàn)誤診或是診斷偏頗的情況。這種級別的信任代表著這些AI系統(tǒng)無論是在出廠的能力評估上，還是在檢測其極限能力上，都可以接受更少的審查，而這也將制造出那些，目前還未被醫(yī)學倫理框架所囊括的新型倫理問題。
除此之外，我們還需要關注類似于這樣的AI醫(yī)療系統(tǒng)在醫(yī)保領域內(nèi)被布置于何處，使誰受益等等這樣的問題。盡管讓醫(yī)療健康惠及所有人，讓大家都能負擔得起確實是一種需求，但已有大量的證據(jù)表明，取得醫(yī)保和健康數(shù)據(jù)的權限并未被公平地分配，在多數(shù)情況下，窮人、非白人和女性群體常常處于劣勢地位。
讓AI系統(tǒng)融入到醫(yī)保體系，非但不會根除這些系統(tǒng)性的不平等問題，反而還有可能會放大這種問題的嚴重性。雖然AI系統(tǒng)可以實現(xiàn)合適的定制化醫(yī)療護理，讓各式各樣的人都獲益，但它也可以被故意培養(yǎng)成過濾掉那些之前就常常被忽視、被服務不周的外圍群體。
如果這些群體沒有被給予適當?shù)目紤]的話，這反過來也將影響到AI系統(tǒng)所構建出的預測模型。AI預測模型會被那些能用上這種AI系統(tǒng)的特權群體所上傳的健康數(shù)據(jù)所不斷的固化，從而只能有效反饋出富人的“健康狀況”，并最終構建出一個會完全排斥“邊緣人群”的健康與疾病的整體認知模型。
鑒于目前美國存在的醫(yī)保財政的亂象，這樣的憂患確實是值得人們投入更多關注，就像這樣的亂象在過去影響到醫(yī)療技術的整合一樣，它也必然會在未來影響到AI醫(yī)療系統(tǒng)的布置和效用，
基于這樣的考慮，人們在推動AI醫(yī)療系統(tǒng)不斷發(fā)展的同時，也在不斷努力地去降低AI醫(yī)療系統(tǒng)造價，而這也將促使那些利益相關者（比如政客、保險公司、健康機構、制藥企業(yè)、雇主和其他人）把他們的注碼，寄托于大規(guī)模的健康數(shù)據(jù)收集和AI系統(tǒng)的研制上，以此來幫助他們更好地維護他們在模型研發(fā)和醫(yī)保護理上的經(jīng)濟利益。
然而，將這些信息技術和AI系統(tǒng)整合到醫(yī)院和其它醫(yī)療健康體系所需要的關鍵培訓、資源和那些正在進行當中的必要維護，并不總是能夠得到支持，或者說并不總是能處于“不差錢”的狀況。而這種情況其實已經(jīng)導致了技術資源和技術能力的分配不均。
訓練AI所需的數(shù)據(jù)收集和病患觀察將如何影響到個人隱私？
AI系統(tǒng)對數(shù)據(jù)量的極度依賴和對病例觀察的需求也自然而然地催生出了對病人隱私、秘密和安全保護等等急迫的問題。
目前，對AI醫(yī)療系統(tǒng)高性能期許的實現(xiàn)依賴于通過各式各樣的設備、平臺和互聯(lián)網(wǎng)來源源不斷地獲取到海量的病患數(shù)據(jù)，而這一過程也不可避免地會涉及到某些人或機構會在利益的驅使下，做出出格的監(jiān)視行為。、
與此同時，像同態(tài)加密（Homomorphic encryption）、差分隱私（differential privacy）和隨機隱私（stochastic privacy）這樣的技術帶給了我們應對這些亂象現(xiàn)象的新的希望，它們可以讓AI系統(tǒng)實現(xiàn)在不“查閱”數(shù)據(jù)的情況下，直接地去“調(diào)用”它們。雖然就目前來說，這些新技術仍處于研發(fā)的初步階段，連一個通用應用程序都還沒有被開發(fā)出來，但它展現(xiàn)出能令人鼓舞的應用前景。
除此之外，隨著近期美國政府對循證醫(yī)學（Evidence ?based medicine）的推廣和《平價醫(yī)保法案》（Affordable Care Act）已由原先的按服務收費轉變至按治療行為收費的這一變化，監(jiān)管行為背后所涉及到的經(jīng)濟利益問題和對敏感健康數(shù)據(jù)消費的問題，都在不斷地加劇惡化當中。
至于那些保險公司，在AI系統(tǒng)入局的情況下，其所需面對的對驗證交叉補貼方案合理性的呼聲的壓力也在與日俱增。
舉個例子，盡管美國政府在2008年就頒布了《基因資訊平等法》（Genetic Information Nondiscrimination Act），但出于對保險分層管理的需求，保險公司對能獲取到遺傳危險率信息的興趣也在日益增長。事實上，差別定價目前已經(jīng)成為了數(shù)據(jù)分析供應商的一項業(yè)內(nèi)通用做法，而這反過來也進一步地鞏固和加劇了目前的不平等現(xiàn)象。
此外，“智能設備”和其它能讓AI系統(tǒng)獲取到所需數(shù)據(jù)的聯(lián)網(wǎng)傳感器也已讓追蹤和監(jiān)視變得無處不在，而這也將目前的那些隱私保護政策的覆蓋范圍不斷地拓寬，像《醫(yī)療健康可攜性和責任法案》（Health Insurance Portability and Accountability Act）就是在這一考慮下的產(chǎn)物。
隨著AI系統(tǒng)被越來越多地融入到健康和電子消費產(chǎn)品上，病人因細分數(shù)據(jù)而被重新定義，或是由代理數(shù)據(jù)來預測出他們的身份、所患疾病和其它健康信息的風險，正不斷地升高。
除此之外，那些驅動這些數(shù)據(jù)收集設備的軟件也常常是為私人所持有，而不是開源的（不受外部審查審計的約束）。雖然，美國政府最近簽署的法令對《數(shù)字千禧年著作權法案》（Digital Millennium Copyright Act）中的相關條例進行了免除，讓審查外部醫(yī)療設施的代碼成為可能，但更為重要的或許是審查那些內(nèi)部醫(yī)療設施，然而這種行為并未被這一豁免權所囊括到。
總的來說，相關業(yè)內(nèi)專家們都已經(jīng)對在物聯(lián)網(wǎng)設備上，布置聯(lián)網(wǎng)技術所潛在的重大安全隱患做過警告了，在這些警告中，有很多就是專門針對醫(yī)療設備安全問題的。
AI將如何影響患者和醫(yī)療保險供應商？
那些已被實現(xiàn)或是有望被實現(xiàn)的AI技術，對健康護理系統(tǒng)的構建有著深遠的意義，對需要照顧的病患，或是那些虛弱體質(zhì)的人也意義非凡。
人們對于AI系統(tǒng)，進行了許多美好的構想，寄予它們護理工作調(diào)解員的角色，并相信它們在未來有可能完全取締了護工的工作。這一轉變前景樂觀、經(jīng)濟，且高效，很可能會改善患者與醫(yī)生或其他護工之間的關系和他們的工作方式。
能展示AI系統(tǒng)具有代替或者協(xié)助人工護理工作的潛力的例子非常之多，包括有機器人外科醫(yī)生、虛擬管家和陪護機器人等等。這些例子逐漸引發(fā)了一些爭論，比如代理照顧和陪同護理的社會意義是否可以讓非人類的機器來代替？當機器替代人工時，它是否能不僅僅只是增強人工的專業(yè)性，而能做到真正的獨當一面呢？當我們認為一臺機器有能力“護理”病人時，它具備了哪些“護理”能力呢？我們又是如何定義“護理”這個詞呢？這些我們以為的“以為”是否是站在病人權益的角度上，去考慮的呢？
就目前來說，雖然陪護機器人在取代人工護理工作上，還未取得什么明顯的效果， 但由AI驅動的APP和聯(lián)網(wǎng)設備能讓病人取回對自己健康管理的控制權的前景正在與日俱增，而這也預示著AI醫(yī)療系統(tǒng)同病人的直接交互，正處于早期發(fā)展階段。。
這種人與AI的直接交互其實也是一把雙刃劍。一方面，它能讓病人康復地更快、對自身病情有更多的了解。另一方面，這種變革也需要他們擔負更多的風險。這些風險包括它可能會誤導病患，影響他們可能會接收到的信息的質(zhì)量和準確性，而這也是美國聯(lián)邦貿(mào)易委員會（FTC）在近些年來，所要傳達給我們的擔慮。
除此之外，這些搭載了AI的APP也可以將原先醫(yī)療從業(yè)者所需要承擔的責任轉移病人本身，但這對病人來說不見得是什么好消息，因為并不是所有人都有時間、財力和AI技術獲取渠道，來實現(xiàn)對他們自身健康的護理。
那么，什么樣的患者能優(yōu)先享受到這些仍在不斷改進當中的AI醫(yī)療技術的紅利呢？對于那些“裝備”不良卻想管理和維護自己個人數(shù)據(jù)的病患來說，他們所接受到的健康看護是否是不合格的呢？
再者，那些搭載了AI技術的應用的設計者和研發(fā)者在這一社會演變過程中，又需要扮演什么新的角色？需要承擔哪些新的責任？
那些始終處于風口浪尖的醫(yī)學道德倫理，又將如何融入到這些與眾不同的，新式工程技術的載體上呢？
4.道德責任
AI系統(tǒng)的部署不僅將引發(fā)新的責任，也將對職業(yè)道德、研究道德、甚至公共安全評估等現(xiàn)有領域造成挑戰(zhàn)。
近來，人們對道德和AI系統(tǒng)的討論傾向于優(yōu)先考慮很久以后可能會出現(xiàn)的AI系統(tǒng)，例如，“奇點”的來臨，或超級智能的發(fā)展。
也就是說，這種討論往往并未關注AI系統(tǒng)在短期或中期內(nèi)會產(chǎn)生的道德影響，例如，當前已投入使用的大量任務型AI系統(tǒng)引發(fā)了新挑戰(zhàn)、可能加劇不平等、或從根本上改變權利機制。
當代AI系統(tǒng)上能夠執(zhí)行各種各樣的活動，這類技術會引發(fā)各種隱性和顯性后果，因此可能對傳統(tǒng)倫理框架提出新挑戰(zhàn)。AI系統(tǒng)被部署在人類社會中時或許會引發(fā)不可預測的相互作用和后果。
在資源配置以及讓權力和信息集中或重組的潛力方面，我們迫切需要處理一些關鍵問題來確保AI技術不會造成傷害，特別對于已被邊緣化的群體。
我們?nèi)绾蜗駻I授予權力或委派AI展開決策？
AI系統(tǒng)在社會和經(jīng)濟領域內(nèi)的融合需要我們把社會問題轉變?yōu)槟軌虮籄I解決的技術問題。這種轉變無法保證AI系統(tǒng)產(chǎn)生的錯誤會少于它將取代的現(xiàn)有系統(tǒng)。瑞安?卡洛（Ryan Calo）指出，人們通常以為，AI系統(tǒng)（如，自主駕駛汽車）犯的錯誤將少于人類。實則不然。復雜程度不高的AI系統(tǒng)無法避免地會犯一些人類不會犯的新錯誤。
在許多領域中，倫理框架往往需要產(chǎn)生記錄，例如，病歷、律師的案卷、或研究人員向機構審查委員會提交的文件。此外，人們還面向患者、客戶或感覺自己遭遇了不公正待遇的對象設立了補救機制。
當代的AI系統(tǒng)往往無法提供此類記錄或補救機制，要么因為技術上無法實現(xiàn)，要么因為設計者并未考慮此類記錄或機制。
這意味著，受到影響的特定群體或個人往往無法對AI或其他預測系統(tǒng)的決策進行檢驗或質(zhì)疑。這會惡化各種形式的權力不對等現(xiàn)象。而權力不對等是一個很重要的倫理議題。
當受到影響的個人無法對這類自動化決策展開檢驗、質(zhì)疑或上訴時，他們就處在了權力相對缺失的位置上。
這帶來的風險是，AI系統(tǒng)不僅將削弱弱勢群體的質(zhì)疑權力，而且將賦予設計方更多定義道德行為的權力。這種權力能夠以十分微妙的形式呈現(xiàn)出來。例如，各種自動化系統(tǒng)往往被用來從某種方向來影響或“微調(diào)”某些個體，而很大程度上扮演決定或支配角色的是設計部署此類系統(tǒng)并從中獲利的一方。
若要從零開始構建AI系統(tǒng)，以實現(xiàn)糾正上述不平衡現(xiàn)象等目標，這本身就要受到實力差距的限制。打造和維護AI系統(tǒng)需要大量的計算資源和大量數(shù)據(jù)。而擁有海量數(shù)據(jù)和計算資源的企業(yè)相對缺乏這類資源的企業(yè)擁有更多的戰(zhàn)略優(yōu)勢。
我們?nèi)绾卧诂F(xiàn)有的各種行業(yè)中應對與AI相關的倫理問題？
隨著AI系統(tǒng)在不同行業(yè)環(huán)境（如，醫(yī)學、法律、金融）中的融入愈加深入，我們還將面臨跨越不同行業(yè)的新的道德困境。
例如，AI系統(tǒng)在保健環(huán)境中的應用將對醫(yī)療專業(yè)人員道德準則中秉持的核心價值（如，涉及保密、護理的連續(xù)性、避免利益沖突以及知情權）造成挑戰(zhàn)。
隨著醫(yī)療業(yè)的不同利益相關方推出了各種各樣的AI產(chǎn)品和服務。對這些核心價值的挑戰(zhàn)可能會以全新的和意想不到的方式呈現(xiàn)。
當一名醫(yī)生使用的AI診斷設備在受訓時使用了一家醫(yī)藥公司的藥品試驗數(shù)據(jù)，而這家公司是某種藥物處方的既得利益者，那么這位醫(yī)生應如何遵守避免利益沖突的誓言？
雖然這是個假想的情況，但這點明了在修訂以及更新職業(yè)道德準則的過程中必須解決的棘手問題。
同樣地，負責管理AI研發(fā)及維護的專業(yè)協(xié)會也有必要考慮采取相應的措施。例如，美國人工智能協(xié)會（AAAI）應制定相關的道德準則，而美國計算機協(xié)會（ACM）以及電氣和電子工程師協(xié)會（IEEE）需認真修訂相關的道德準則。ACM和IEEE現(xiàn)有的道德準則已擁有20年以上的歷史，不用說，這些準則不僅無法解決與人類機構、隱私和安全相關的核心問題，而且也無法預防AI和其他自動化決策系統(tǒng)可能產(chǎn)生的危害。隨著AI技術進一步被整合到重要的社會領域中，這一點正變得越來越重要。
盡管更多的高等教育機構在技術和科學專業(yè)的教學中已開始強調(diào)職業(yè)道德的重要性，但這番努力仍處在初期，還有進一步的拓展空間。而民權、公民自由和道德實踐等領域的知識還未成為學生們畢業(yè)時必須掌握的要求范圍。此外，有一點是值得注意的，若有人違背醫(yī)藥界道德準則，他需承擔的懲罰包括失去行醫(yī)權力，這一點并不適用計算機科學或許多其他相關領域。
目前還不清楚大多數(shù)計算機科學家是否熟知ACM或IEEE準則中的核心內(nèi)容。我們也不清楚，企業(yè)雇主是否會因為其他鼓勵或壓力因素而選擇不遵守這種不具約束力的法規(guī)。因此，從實用角度看，除了僅僅對倫理框架進行改寫和更新外，有必要關注范圍更廣的鼓勵機制，并確保對倫理準則的遵從并不是事后才想起的事項，而是相關專業(yè)領域需要關注的核心問題，以及AI領域學習和實踐中不可或缺的組成部分。
闡述建議
下面我們將進一步闡述上面簡要提到的建議背后的基本原理。
1、多元化和拓寬AI開發(fā)和部署所必需的資源——如數(shù)據(jù)集、計算資源、教育和培訓的使用，包括擴大參與這種開發(fā)的機會。特別是關注當前缺乏這種訪問的人口。
正如在AI Now Experts研討會期間很多人提到的，這些開發(fā)和培訓AI系統(tǒng)的方法費用高昂并只限于少數(shù)大公司?；蛘吆唵蔚卣f，在沒有大量資源的情況下DIY AI是不可能的。培訓用AI模式要求有大量數(shù)據(jù)——越多越好。同時還要求有巨大的計算能力，而這費用不菲。這使得即使要進行基礎研究都只能限于能支付這種使用費用的公司，因此限制了民主化開發(fā)AI系統(tǒng)服務于不同人群目標的可能性。投資基本的基礎設施和使用合適的培訓數(shù)據(jù)，有助于公平競爭。同樣，開放現(xiàn)有行業(yè)和機構里開發(fā)和設計過程，以多元化內(nèi)部紀律和外部評論，可幫助開發(fā)更好服務和反映多元化環(huán)境需求的AI系統(tǒng)。
2、升級使公平勞動行為具體化的定義和框架，以適應AI管理部署到工作地時出現(xiàn)的結構性變化。同時研究可替代的收入和資源分布、教育和再培訓模式，以適應未來重復性工作日益自動化和勞動及就業(yè)態(tài)勢不斷變化。
在AI Now Experts研討會上，奧巴馬總統(tǒng)首席經(jīng)濟學家賈森·福爾曼（Jason Furman）指出，在美國每小時工資只有不到20美元的工作，83%都將面臨自動化的嚴重壓力。對于每小時工資在20-40美元的中等收入工作，這個比例也高達31%。這是勞動力市場一次巨大轉變，可能導致出現(xiàn)一個永久失業(yè)階層。為確保AI系統(tǒng)的效率在勞動力市場不會導致民眾不安，或社會重要機構如教育（有一種可能是教育不再視為就業(yè)的更好途徑）的解散，在這種巨大轉變出現(xiàn)，應該徹底研究替代性資源分布方法和其他應對引入自動化的模式，制定的政策應該為組織良好的各種落實測試開路，控制可能導致的災難性后果。
除了“替代工人”外，AI系統(tǒng)也對勞動力市場也有其他多重影響。例如，它們改變了權力關系、就業(yè)預期和工作本身的角色。這些變化已經(jīng)對工人產(chǎn)生深遠影響，因此在引入AI系統(tǒng)時，在考慮如何表述公平和不公平做法上，理解這些影響很重要。例如，如果開發(fā)實際作為管理層行事的AI系統(tǒng)的公司，可被視為科技服務公司，與雇主不同的是，職員可能不受現(xiàn)有法律保護。
3、在設計和部署階段，支持研究開發(fā)衡量和評估AI系統(tǒng)準確性和公平度的方法。同樣地，也支持研究開發(fā)衡量及解決一旦使用出現(xiàn)的AI錯誤和損害的方法，包括涉及通知、矯正和減輕這些因AI系統(tǒng)自動決策導致的錯誤和損害的問責制。這些方法應優(yōu)先通知受自動決策影響的人們，并開發(fā)對錯誤或有害判斷提出異議的方法。
AI和預測性系統(tǒng)日益決定了人們是否能獲得或失去機會。在很多情況下，人們沒有意識到是機器而非人類在做出改變?nèi)松臎Q定。即使他們意識到，也沒有對錯誤界定提出異議或拒絕有害決策的標準流程。我們需要在研究和技術原型化上投資，確保在AI系統(tǒng)日益用于做出重要決策的環(huán)境中，確?；緳嗬拓熑问艿阶鹬?。
4、澄清無論是反電腦欺詐和濫用法案還是數(shù)字千年版權法案不是用于限制對AI責任的研究
為了進行對檢驗、衡量和評估AI系統(tǒng)對公共和私人機構決策的影響所需的研究，特別是有關如公平和歧視的關鍵社會關切，研究人員必須被清楚地允許跨大量域名并通過大量不同方法測試系統(tǒng)。然而，某些美國法律，如反電腦欺詐和濫用法案（CFAA）和數(shù)字千年版權法案（DMCA），規(guī)定與電腦系統(tǒng)甚至互聯(lián)網(wǎng)上公開可訪問的電腦系統(tǒng)“未授權”互動為非法，可能限制或禁止這種研究。這些法律應該澄清或修改，明確允許促進這種重要研究的互動。
5、支持在現(xiàn)實環(huán)境中AI系統(tǒng)對社會經(jīng)濟生活影響的強大評估和評價方法的基礎性研究。與政府機構合作將這些新技術集成到他們的調(diào)查、監(jiān)管和執(zhí)法能力中。
我們當前缺乏對AI系統(tǒng)社會經(jīng)濟影響評估和理解的嚴格做法。這意味著AI系統(tǒng)在融合到現(xiàn)有社會經(jīng)濟領域，部署在新產(chǎn)品和環(huán)境中，卻不能衡量或精確計算它們的影響。這種情況類似于進行試驗卻不愿記錄結果。為確保AI系統(tǒng)帶來的益處，必須進行協(xié)調(diào)一致的研究開發(fā)嚴格的方法，理解AI系統(tǒng)的影響，當使用這種方法時可幫助形成跨部門和政府內(nèi)部的標準做法。這種研究及其結果可比作早期預警系統(tǒng)。
6、在與這些人聯(lián)合開發(fā)和部署這種系統(tǒng)時，與受自動決策應用和AI系統(tǒng)影響的社區(qū)代表及成員合作，聯(lián)合設計可問責的AI。
在很多情況下，這些受AI系統(tǒng)影響的人將是對AI系統(tǒng)環(huán)境和結果最權威性的專家。特別是鑒于當前AI領域缺乏多元化，那些受AI系統(tǒng)部署影響的人實際上從事提供反饋和設計方向，來自反饋機制的這些建議可直接影響AI系統(tǒng)的開發(fā)和更廣泛的政策框架。
7、加強行動提高AI開發(fā)者和研究者的多元化，拓寬和融合所有觀點、環(huán)境和學科背景到AI系統(tǒng)開發(fā)中。AI領域應該也結合計算、社會科學和人文學，支持和促進針對AI系統(tǒng)對多個觀點影響的跨學科AI研究。
計算機科學作為一個學科領域缺乏多樣性。特別是嚴重缺乏女性從業(yè)者，在AI里這種情況更為糟糕。例如，雖然有些AI學術實驗室由女性掌管，但在最近的神經(jīng)信息處理系統(tǒng)大會上，與會者只有13.7%是女性，這次大會是該領域最主要的年度大會之一。缺乏多元化的圈子不大可能會考慮這些不在其中人的需求和關注。當這些需求和關注成為部署AI的社會經(jīng)濟機構的中心時，理解這些需求和關注很重要，AI開發(fā)反映了這些重要的觀點。關注開發(fā)AI人群多元化是關鍵，除了性別和代表受保護人群外，包括除計算機科學外各種學科的多元化、建立依賴來自相關社會經(jīng)濟領域學習的專業(yè)知識的開發(fā)實踐。
在計算機科學之外和計算機科學之內(nèi)AI子領域的社會經(jīng)濟領域，進行AI影響的徹底評估將需要多數(shù)這種專業(yè)知識。由于很多環(huán)境下AI被集成和使用——如醫(yī)學、勞動力市場或在線廣告——本身是學習的豐富領域。為真正制定AI影響評估的嚴格流程，我們將需要跨學科的協(xié)作，建立新的研究方向和領域。
8、與專業(yè)組織如美國人工智能進步協(xié)會（AAAI）、美國計算機協(xié)會（ACM）和電氣及電子工程師協(xié)會（IEEE）合作，更新（或制作）專業(yè)道德準則，更好地反映在社會經(jīng)濟領域部署AI和自動化系統(tǒng)的復雜性。為任何想掌握計算機科學的人開設公民權、公民自由權和道德培訓課程，反映了教育中的這些變化。同樣，更新專業(yè)道德準則約束引入AI系統(tǒng)的專業(yè)人士，如適用于醫(yī)生和醫(yī)院工作者的道德準則。
在醫(yī)學和法律等職業(yè)中，專業(yè)人士的行為受控制可接受和不可接受行為的道德準則約束。專業(yè)組織如ACM和IEEE確實制定了道德準則，然而這些準則過時了，不足以解決復雜社會經(jīng)濟環(huán)境中使用AI系統(tǒng)帶來的具體并常常是微妙的挑戰(zhàn)。雖然醫(yī)生確實遵守了約束他們對待病人行為的職業(yè)道德，但AI系統(tǒng)的發(fā)展，如幫助醫(yī)生診療和治療病人，出現(xiàn)了現(xiàn)有職業(yè)道德準則不總是能解決的道德挑戰(zhàn)。職業(yè)準則和計算機科學培訓必須更新，以反映AI系統(tǒng)建造者對因使用這些系統(tǒng)遭受不同程度不利影響的人所負有的責任。在AI用于增強人類決策時，職業(yè)道德準則應該包括在AI系統(tǒng)受到利益沖突左右的時候鑒定責任的保護措施。
原文鏈接：http://tech.163.com/16/1008/00/C2QJ22BJ00097U80.html