綜述：２０１６年人工智能的那些不完美---自動(dòng)駕駛汽車(chē)、圍棋人機(jī)大戰(zhàn)、描繪機(jī)器人自我意識(shí)的美劇《西部世界》大熱……２０１６年，人工智能及其相關(guān)領(lǐng)域受到產(chǎn)業(yè)界、學(xué)術(shù)界乃至全社會(huì)的熱議。與此同時(shí)，人們對(duì)人工智能的擔(dān)憂也從未褪去：人工智能會(huì)在什么時(shí)間、以什么方式出問(wèn)題？
新華社北京１２月１２日電 綜述：２０１６年人工智能的那些不完美
新華社記者李宓
自動(dòng)駕駛汽車(chē)、圍棋人機(jī)大戰(zhàn)、描繪機(jī)器人自我意識(shí)的美劇《西部世界》大熱……２０１６年，人工智能及其相關(guān)領(lǐng)域受到產(chǎn)業(yè)界、學(xué)術(shù)界乃至全社會(huì)的熱議。與此同時(shí)，人們對(duì)人工智能的擔(dān)憂也從未褪去：人工智能會(huì)在什么時(shí)間、以什么方式出問(wèn)題？
臨近年終，多名人工智能專(zhuān)家分析了２０１６年人工智能典型“失敗”案例，認(rèn)為這些錯(cuò)誤集中出現(xiàn)在人工智能系統(tǒng)的機(jī)器學(xué)習(xí)和任務(wù)執(zhí)行階段。
歧視都是人的錯(cuò)嗎
多位人工智能專(zhuān)家認(rèn)為，種族主義和種族歧視是目前人工智能系統(tǒng)存在的主要問(wèn)題，這可能和系統(tǒng)的研發(fā)設(shè)計(jì)者本身的種族有關(guān)。
２０１６年，美國(guó)多地法庭開(kāi)始使用人工智能系統(tǒng)預(yù)測(cè)一名罪犯再次犯罪的幾率，作為法官給予罪犯緩刑等的依據(jù)。然而，媒體對(duì)佛羅里達(dá)州法庭使用的一種名為“少數(shù)派報(bào)告”預(yù)測(cè)系統(tǒng)進(jìn)行了調(diào)查，發(fā)現(xiàn)黑人被系統(tǒng)預(yù)測(cè)會(huì)再次犯罪的幾率比其他族裔高出４５％，其中黑人被預(yù)測(cè)再次暴力犯罪的幾率比其他族裔高出７７％。數(shù)據(jù)顯示，這一人工智能系統(tǒng)的準(zhǔn)確率只有２０％。媒體評(píng)論說(shuō)，所謂犯罪預(yù)測(cè)系統(tǒng)唯一能判斷的僅是受調(diào)查對(duì)象的種族而已。
２０１６年，美國(guó)多家公司聯(lián)合推出了“世界首屆人工智能選美大賽”，參賽者在網(wǎng)站上上傳照片，由人工智能算法“精確”評(píng)估參賽者的美。然而，這場(chǎng)比賽的獲獎(jiǎng)?wù)叨际前兹?。美?guó)路易斯維爾大學(xué)網(wǎng)絡(luò)安全實(shí)驗(yàn)室主任揚(yáng)波利斯基指出，很明顯這一人工智能的學(xué)習(xí)訓(xùn)練樣本不夠，美人被限制在固定的模式中。
為了開(kāi)拓年輕人的市場(chǎng)，微軟公司今年春季在社交網(wǎng)絡(luò)推特上推出了人工智能聊天機(jī)器人Ｔａｙ。然而上線不到一天，用網(wǎng)友的話說(shuō)，Ｔａｙ就成為了一個(gè)“熱愛(ài)希特勒、侮辱女性的妖怪”，微軟隨即將Ｔａｙ緊急下線。
任天堂公司的“口袋妖怪”游戲今年７月發(fā)布后風(fēng)靡全球。玩家很快發(fā)現(xiàn)，黑人社區(qū)很少有小精靈可抓。據(jù)《今日美國(guó)》報(bào)道，在洛杉磯地區(qū)，主要的白人社區(qū)平均有５５個(gè)“精靈驛站”，黑人社區(qū)平均不到１９個(gè)；在底特律、邁阿密和芝加哥也出現(xiàn)類(lèi)似情況，黑人玩家在自家門(mén)口很難參與游戲。游戲開(kāi)發(fā)人員承認(rèn)，這款增強(qiáng)現(xiàn)實(shí)智能游戲基于一個(gè)以白人玩家為主的地圖系統(tǒng)，開(kāi)發(fā)人員沒(méi)有在黑人社區(qū)上多花時(shí)間。
輸棋、傷人人工智能還不完美
在３月的圍棋人機(jī)大戰(zhàn)中，人工智能系統(tǒng)阿爾法圍棋以４比１戰(zhàn)勝韓國(guó)棋手李世石。澳大利亞新南威爾士大學(xué)人工智能教授沃爾什表示，阿爾法圍棋輸了一局，說(shuō)明李世石還是發(fā)現(xiàn)了這個(gè)系統(tǒng)使用的“蒙特卡洛搜索樹(shù)”中的漏洞，這一局可以看作是２０１６年人工智能的一次失敗，人工智能還不完美。揚(yáng)波利斯基則認(rèn)為，李世石勝出的一局還是在正常操作的范圍內(nèi)。
５月，一輛開(kāi)啟自動(dòng)駕駛模式的特斯拉在美國(guó)佛羅里達(dá)州與一輛拖車(chē)相撞，導(dǎo)致司機(jī)死亡。事故發(fā)生后，特斯拉公司發(fā)布了自動(dòng)駕駛軟件的重要更新，公司首席執(zhí)行官馬斯克稱(chēng)，更新可以防止類(lèi)似事故的發(fā)生。
７月，位于硅谷地區(qū)的斯坦福購(gòu)物中心，一位母親稱(chēng)，購(gòu)物中心重約１３５公斤的“Ｋ５安保機(jī)器人”撞倒了自己１６個(gè)月的孩子，并從孩子的腳上壓了過(guò)去。
而在１１月舉行的中國(guó)深圳“中國(guó)國(guó)際高新技術(shù)成果交易會(huì)”上，一名網(wǎng)友在微信上發(fā)圖并配文稱(chēng)，親眼看到隔壁展臺(tái)進(jìn)化者小胖機(jī)器人沒(méi)人操縱，自己突然跑起來(lái)，把玻璃墻給撞倒了，砸傷旁邊一路人。圖片顯示，現(xiàn)場(chǎng)滿地玻璃，一位受傷觀眾被擔(dān)架抬走。這款機(jī)器人的生產(chǎn)方稱(chēng)，這起事故是人為操作失誤所致，控制人員誤將前進(jìn)鍵當(dāng)作后退鍵。但也有專(zhuān)家指出，不能用“油門(mén)當(dāng)剎車(chē)”的比喻來(lái)看待服務(wù)機(jī)器人問(wèn)題。盡管是偶發(fā)事件，但其安全隱患絕不可掉以輕心。