我們需要明確了解分析人工智能在具體領(lǐng)域內(nèi)存在的潛在威脅，既讓它們發(fā)揮作用，又要確保它們能夠安全、友好、按照人類(lèi)價(jià)值觀(guān)運(yùn)轉(zhuǎn)。這并不是個(gè)簡(jiǎn)單的課題，因?yàn)榧词故侨祟?lèi)，在大多數(shù)時(shí)間里都無(wú)法遵照自己設(shè)定的原則行動(dòng)。
給日常生活帶來(lái)的影響
記者：人工智在具體領(lǐng)域會(huì)給人類(lèi)帶來(lái)怎樣的威脅?
ROSSI: 比如自動(dòng)交易系統(tǒng)，機(jī)器給出的一個(gè)錯(cuò)誤的決策會(huì)給很多人帶來(lái)經(jīng)濟(jì)損失。無(wú)人駕駛汽車(chē)的失誤也會(huì)給人類(lèi)帶來(lái)生命安全的威脅。
記者：應(yīng)該怎么看待這些風(fēng)險(xiǎn)?
BANAVAR: 任何風(fēng)險(xiǎn)都有兩面性：做這件事的風(fēng)險(xiǎn)和不做這件事的風(fēng)險(xiǎn)。我們已經(jīng)有很多基于信息不完全、專(zhuān)業(yè)人士的不專(zhuān)業(yè)做出的錯(cuò)誤決定，造成數(shù)千人死亡，上百萬(wàn)美金損失以及在諸如醫(yī)療等核心領(lǐng)域緩慢的發(fā)展?fàn)顩r?；贗BM沃森超級(jí)電腦在很多領(lǐng)域的應(yīng)用經(jīng)驗(yàn)，我認(rèn)為，在具體領(lǐng)域上，人工智能能夠有效的降低風(fēng)險(xiǎn)。
然而對(duì)于全面人工智能領(lǐng)域，我持有謹(jǐn)慎的觀(guān)點(diǎn)。我認(rèn)為我們一直低估了這個(gè)問(wèn)題的復(fù)雜性。我們有太多未知未知了。
記者：IBM采取哪些措施來(lái)降低人工智能技術(shù)風(fēng)險(xiǎn)?
BANAVAR: IBM的計(jì)算機(jī)認(rèn)知系統(tǒng)，和其他現(xiàn)代計(jì)算機(jī)系統(tǒng)一樣，是基于云計(jì)算結(jié)構(gòu)，運(yùn)算法則和大量數(shù)據(jù)構(gòu)建的。為了防止違規(guī)現(xiàn)象出現(xiàn)，這些系統(tǒng)的運(yùn)轉(zhuǎn)是可以被記錄、追蹤和審查的。這些認(rèn)知系統(tǒng)不是自主運(yùn)轉(zhuǎn)，所以他們的指令、數(shù)據(jù)、結(jié)構(gòu)需要我們采取一定保護(hù)措施來(lái)防止人為的外部攻擊。任何接入、更新系統(tǒng)的人都是可控的。
我們主要通過(guò)復(fù)雜的加密和數(shù)字簽名來(lái)保護(hù)數(shù)據(jù)，通過(guò)漏洞掃描和其他技術(shù)手段保護(hù)運(yùn)算代碼，通過(guò)隔離等手段保護(hù)計(jì)算機(jī)結(jié)構(gòu)。
這些支持人工智能安全運(yùn)行的政策是基于對(duì)風(fēng)險(xiǎn)的深度分析設(shè)計(jì)的。這些政策需要經(jīng)過(guò)安全和交易委任, 管理銷(xiāo)售和公共安全提供的委員會(huì)(SEC)、食品及藥物管理局(FDA)以及美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)研究院(NIST)這些各自領(lǐng)域內(nèi)負(fù)責(zé)設(shè)定安全標(biāo)準(zhǔn)的機(jī)構(gòu)審查。
記者：沃森超級(jí)電腦正在幫助醫(yī)生解決醫(yī)療難題。它能夠?qū)ψ陨硎д`造成的醫(yī)療傷害負(fù)責(zé)嗎?
BANAVAR: 沃森超級(jí)電腦不會(huì)給出診斷意見(jiàn)。它通過(guò)處理大量患者醫(yī)療數(shù)據(jù)為醫(yī)生提供多種處理建議。醫(yī)生會(huì)考慮沃森提出的建議并綜合分析其它因素做出最終的治療判斷。
ROSSI: 醫(yī)生也在一直犯錯(cuò)，主要原因在于他們無(wú)法完全掌握關(guān)于某種疾病的全部信息。像沃森電腦這樣的系統(tǒng)，能夠幫助他們減少失誤。
TALLINN: 曾經(jīng)一項(xiàng)研究把醫(yī)生和醫(yī)療自動(dòng)診斷系統(tǒng)作比較。結(jié)論是，大多數(shù)醫(yī)生輸給了電腦。
BANAVAR：我認(rèn)為，沃森電腦提供更加完備的醫(yī)療建議是十分有益的。我很希望有機(jī)會(huì)讓它為我做診斷。
對(duì)人類(lèi)的影響
記者：有些專(zhuān)家認(rèn)為人工智能以及搶了一些人類(lèi)的飯碗，你們同意嗎?
TALLINN: 科技進(jìn)步確實(shí)會(huì)讓一些工作崗位消失。有一位Uber司機(jī)曾經(jīng)興奮地向我介紹他是如何把目的地輸入到平板電腦上，得到行程路線(xiàn)的。我告訴他，幾年之后，可能來(lái)是這些科技小物件把我送到目的地。司機(jī)高興地說(shuō)，到時(shí)候他就更省事了，坐在駕駛座上享受就可以了。坐在后排的我卻不住搖頭。我認(rèn)為，無(wú)人駕駛汽車(chē)給人類(lèi)帶來(lái)的最大影響不是便利，而是消失的工作崗位。
長(zhǎng)遠(yuǎn)看來(lái)，除了工作以外，還應(yīng)該設(shè)想一下，我們的社會(huì)還可以圍繞什么運(yùn)轉(zhuǎn)。
BANAVAR: 有史以來(lái)，我們一直通過(guò)打造工具來(lái)幫助我們完成我們做不到的事情。每一代工具的產(chǎn)生都會(huì)引發(fā)我們關(guān)于自然和工作方式的思考。生產(chǎn)力提高，工作被重新定義，新的職業(yè)誕生，一些職業(yè)消失。電腦認(rèn)知系統(tǒng)拓展了人類(lèi)的思維力，替代性潛力更強(qiáng)。
問(wèn)題的關(guān)鍵是應(yīng)該建立一個(gè)機(jī)構(gòu)，快速培養(yǎng)專(zhuān)業(yè)人士，讓他們能夠開(kāi)發(fā)電腦認(rèn)知系統(tǒng)作為助手輔助他們各自的工作。這些技能能夠加強(qiáng)人類(lèi)的專(zhuān)業(yè)性，為“專(zhuān)家”設(shè)定一個(gè)全新的標(biāo)準(zhǔn)。
記者：我們?cè)摓槿斯ぶ悄苌鐣?huì)做怎樣準(zhǔn)備?
TALLINN: 全面人工智能何時(shí)實(shí)現(xiàn)甚至是否能夠?qū)崿F(xiàn)都存在很大不確定性。(雖然作為一名物理學(xué)家，我覺(jué)得一切皆有可能!)但是不確定性并不是我們不去思考控制問(wèn)題的借口。針對(duì)如何控制的問(wèn)題，有針對(duì)性的研究剛剛開(kāi)始，可能需要幾十年才能有結(jié)果。
ROSSI: 我相信，我們完全可以把應(yīng)用在具體領(lǐng)域的人工智能對(duì)人類(lèi)的不良影響控制到最小的程度。我們需要為機(jī)器設(shè)定人類(lèi)的價(jià)值標(biāo)準(zhǔn)，設(shè)定工作原則和優(yōu)先級(jí)，如與人類(lèi)相符的沖突解決能力。具體領(lǐng)域的人工智能設(shè)計(jì)工作完成好，就能夠?yàn)樵O(shè)計(jì)出不危害人類(lèi)的全面人工智能做好準(zhǔn)備。