7月11日消息,據(jù)金融時(shí)報(bào)報(bào)道,隨著強(qiáng)大的人工智能(AI)技術(shù)不斷滲透到谷歌的所有服務(wù)中,谷歌正在努力解決如何確保其給人類(lèi)帶來(lái)更多好處而非傷害的問(wèn)題。這個(gè)網(wǎng)絡(luò)巨頭10日宣布推出新的研究計(jì)劃,旨在尋找以人為AI發(fā)展中心的方式,從給予工程師更好的工具來(lái)控制技術(shù),到確保普通人不會(huì)因?yàn)橹悄軝C(jī)器的決定而陷入不利的地位。
這項(xiàng)計(jì)劃的研究人員之一費(fèi)爾南達(dá)·維埃加斯(Fernanda Viégas)說(shuō):“隨著人類(lèi)與AI交互問(wèn)題從谷歌各個(gè)角落不斷涌現(xiàn),這個(gè)想法就開(kāi)始成型。”谷歌越來(lái)越意識(shí)到AI的潛在負(fù)面影響,這反映了科技界更廣泛的擔(dān)憂,即過(guò)去公司用來(lái)制造新產(chǎn)品的方法可能不足以控制新技術(shù)。
舉例來(lái)說(shuō),利用不完整或被扭曲的數(shù)據(jù)訓(xùn)練AI系統(tǒng)可能會(huì)導(dǎo)致機(jī)器產(chǎn)生有偏見(jiàn)性的“思考”,而且很難將它們所采用的算法應(yīng)用于外部檢查。即使AI系統(tǒng)能夠有效地發(fā)揮作用,它們遵循的“世界觀”也很有可能促使世界上某些人陷入不利地位,或者他們可能完全排斥人類(lèi),而不是鼓勵(lì)給人們?cè)谛碌挠?jì)算機(jī)交互形式中發(fā)揮積極作用。
維埃加斯與谷歌研究科學(xué)家馬丁·瓦藤伯格(Martin Wattenberg)在博文中寫(xiě)道,谷歌計(jì)劃的目標(biāo)應(yīng)該是創(chuàng)造“以人為中心的AI系統(tǒng)”,并且“民主化”這項(xiàng)技術(shù),使它更容易理解工程師和其他人類(lèi)。繼去年微軟的嘗試之后,谷歌再次呼吁將更人性化的方法作為其AI發(fā)展的中心。微軟首席執(zhí)行官薩提亞·納德拉(Satya Nadella)曾將當(dāng)前緊迫性與15年前微軟徹底改變開(kāi)發(fā)過(guò)程相提并論,當(dāng)時(shí)第一波計(jì)算機(jī)病毒爆發(fā),促使更強(qiáng)大應(yīng)用軟件的需求激增。
谷歌的新研究計(jì)劃由兩位來(lái)自Google Brain的高級(jí)研究科學(xué)家領(lǐng)導(dǎo)。這個(gè)機(jī)構(gòu)的名字源自谷歌首個(gè)深度學(xué)習(xí)項(xiàng)目,深度學(xué)習(xí)是目前AI領(lǐng)域最先進(jìn)的機(jī)器學(xué)習(xí)技術(shù)。維埃加斯與瓦藤伯格寫(xiě)道,到目前為止,大多數(shù)AI研究都集中在“技術(shù)性能”上。他們呼吁尋找新的開(kāi)發(fā)過(guò)程,而且這個(gè)過(guò)程應(yīng)該從終端用戶(hù)的想法開(kāi)始,這被稱(chēng)為“設(shè)計(jì)思維”,是許多行業(yè)中非常流行的產(chǎn)品開(kāi)發(fā)方法。
維埃加斯與瓦藤伯格自問(wèn):“我們?nèi)绾未_保這項(xiàng)技術(shù)對(duì)每個(gè)人都有好處?”他們的呼吁與人們?cè)絹?lái)越關(guān)注的問(wèn)題相符,即解釋AI系統(tǒng)如何工作異常困難,這可能導(dǎo)致人們對(duì)它們產(chǎn)生的結(jié)果缺乏信任,進(jìn)而阻礙了它們的使用。為了嘗試克服這個(gè)問(wèn)題,美國(guó)國(guó)防部的研究部門(mén)支持多項(xiàng)研究,包括如何使AI系統(tǒng)的“思維”更易于被人所理解。
在名為“人+A研究”新項(xiàng)目的首個(gè)產(chǎn)品中,谷歌宣布推出兩個(gè)軟件工具,據(jù)稱(chēng)它們將讓開(kāi)發(fā)者“清楚地看到他們用來(lái)訓(xùn)練AI系統(tǒng)的數(shù)據(jù)”。這反映了“需要調(diào)試的不僅是代碼,數(shù)據(jù)也同樣如此。”在“人+A研究”項(xiàng)目中,有數(shù)十位AI領(lǐng)域?qū)<遗c谷歌多個(gè)產(chǎn)品團(tuán)隊(duì)展開(kāi)合作,包括哈佛大學(xué)教授布倫丹·米德(Brendan Meade)、麻省理工學(xué)院教授哈爾·艾貝爾森(Hal Abelson)等。這項(xiàng)研究最終將幫助改進(jìn)某些世界上最流行應(yīng)用的智能元件接口,而且谷歌的計(jì)劃也可能鼓勵(lì)其他公司調(diào)整自己的軟件。
這項(xiàng)新舉措與谷歌日益重視AI的策略相吻合。谷歌首席執(zhí)行官桑達(dá)爾·皮查伊(Sundar Pichai)曾多次表示,世界正從“移動(dòng)優(yōu)先”向“AI優(yōu)先”轉(zhuǎn)變,該公司已經(jīng)圍繞這個(gè)策略做出許多調(diào)整。例如,最近谷歌成立了風(fēng)險(xiǎn)投資部門(mén),專(zhuān)門(mén)投資于AI初創(chuàng)公司。與此同時(shí),亞馬遜、蘋(píng)果、Facebook以及微軟在過(guò)去幾年里也一直積極參與AI的改進(jìn)。 (小小)
登陸|注冊(cè)歡迎登陸本站,認(rèn)識(shí)更多朋友,獲得更多精彩內(nèi)容推薦!